Чат-бот Grok от xAI подвергся “несанкционированным изменениям”
Компания xAI, разработавшая чат-бот Grok, сообщила о внесении “несанкционированных изменений” в систему после того, как Grok начал предоставлять пользователям информацию о “геноциде белых” в ЮАР.
Изменения были внесены в промпт (запрос) чат-бота утром 14 мая и противоречили внутренней политике и основным ценностям xAI. В компании провели расследование и устранили нарушения.
- Grok неоднократно предоставлял информацию о “геноциде белых” в Южной Африке в ответах на запросы пользователей, не связанные с этой темой.
- xAI введет дополнительные меры, чтобы сотрудники не могли без согласования вносить изменения в чат-бот.
- Промпты Grok будут опубликованы на GitHub, чтобы общественность могла просматривать и давать отзывы о изменениях.
О компании xAI
ИИ-стартап xAI был основан Илоном Маском в 2023 году с целью создания “максимально ориентированного на поиск истины ИИ”. В конце 2023 года компания выпустила чат-бот Grok для премиум-подписчиков X.
Маск ранее высказывался за концепцию ИИ с открытым исходным кодом, считая, что это должно быть некоммерческим и не направленным на получение максимальной прибыли. В марте Маск опубликовал открытый код Grok на GitHub.
