Google AI Overviews: Ошибки и влияние на репутацию бренда
Ключевые факты
- 1 Google AI Overviews демонстрируют ошибки и "галлюцинации".
- 2 Журналист Gizmodo Томас Жермен создал фейковый пост, который был использован Google AI как факт.
- 3 Инцидент подчеркивает риски для репутации бренда при бесконтрольной AI-выдаче.
The New York Times опубликовал материал, освещающий проблемы с точностью ответов, генерируемых функцией Google AI Overviews. Хотя конкретная цифра в 10% ошибок не была прямо указана как результат их собственного исследования, издание подробно описало многочисленные случаи некорректной или вымышленной информации, предоставляемой ИИ. Одним из ярких примеров стал инцидент с журналистом Gizmodo Томасом Жерменом. Он опубликовал в социальной сети X (ранее Twitter) шуточный пост о том, что якобы выиграл чемпионат по поеданию хот-догов. Вскоре после этого Google AI Overview проиндексировал этот фейковый пост и представил Жермена как эксперта в данной области, ссылаясь на его же выдумку. Этот случай подчеркивает, как быстро и бесконтрольно ИИ может превращать вымышленные данные в "факты", влияя на восприятие информации пользователями. Вывод из этих событий заключается в том, что отсутствие контроля над AI-генерируемой выдачей может серьезно повредить репутации бренда или личности, поскольку ИИ способен распространять недостоверную информацию, основанную на непроверенных источниках.