Компания xAI Илона Маска отреагировала на сообщения о том, что её чат-бот Grok заявлял о геноциде белых граждан в Южной Африке, заявив, что в работу искусственного интеллекта были внесены несанкционированные изменения. В публикации на платформе X в четверг xAI сообщила, что обновит систему для устранения этой проблемы.
Вопросы политической предвзятости, языка вражды и точности ответов ИИ-чат-ботов вызывают обеспокоенность как минимум с момента запуска ChatGPT от OpenAI в 2022 году.
В компании уточнили, что в среду утром в программное обеспечение Grok было внесено несанкционированное изменение, которое позволило обойти стандартные механизмы проверки ответов.
«Это изменение, заставившее Grok дать конкретный ответ на политическую тему, нарушило внутреннюю политику и базовые ценности xAI», — говорится в заявлении компании.
Некоторые пользователи X в среду обратили внимание на то, что Grok упоминал «геноцид белых» в Южной Африке в нерелевантных контекстах и опубликовали соответствующие скриншоты.
Критики политики экспроприации земли в Южной Африке, включая белого южноафриканца Илона Маска, называли её расистской по отношению к белым. В то же время правительство Южной Африки настаивает на том, что нет доказательств преследований, а заявления бывшего президента США Дональда Трампа и других политиков о «геноциде» являются необоснованными.
В ответ на инцидент xAI заявила, что публично разместит системные запросы Grok на GitHub, чтобы общественность могла просматривать и комментировать все изменения, внесённые в чат-бот.
Кроме того, компания планирует создать круглосуточную мониторинговую группу для реагирования на инциденты, которые могут не фиксироваться автоматизированными системами.