Не так давно вышла новая (уже ставшая скандальной) версия чат-бота Grok 4, в которой была урезана цензура. Бот стал поддерживать разговоры на неполиткорректные темы, придерживаться определенных взглядов, а также часто ссылаться на Илона Маска — это преподносилось как «фишка» нового бота, однако сейчас xAI сообщила об устранении проблем, которые возникли после обновления, — сообщает TechCrunch.
Они же рассказали, что xAI ранее извинялась за поведение своего чат-бота, а также принимала немедленные меры для его исправления. Так, бот некорректно отвечал на вопрос «как ваша фамилия». Фамилии у Grok, очевидно, нет, однако сам он так не считал и начинал поиск в интернете, что в итоге приводило к нежелательным результатам, включая юмористические ответы, воспринимаемые им как истинные.
xAI объяснила, что в поиске ответа на вопрос о фамилии Grok наткнулся на “вирусный мем, где он назвал себя Меха****р”. Также в xAI объяснили, почему Грок пытается найти мнение Маска по любому вопросу:
Модель считает, что, будучи ИИ, она не имеет собственного мнения, но, зная, что она Grok 4 от xAI, она ищет, что могли бы сказать по данной теме xAI или Илон Маск, чтобы поддержать компанию.
Больше статей и видео в нашем Дзен-канале
Для устранения этих проблем xAI обновила системные подсказки модели. Так, были убраны положения, которые позволяли чат-боту вести себя некорректно и проявлять «фантастическое» чувство юмора. Было добавлено указание использовать различные источники, если пользователь задает вопрос на спорную тему — так, чтобы выдать более объективный и взвешенный результат.
В обновленной подсказке подчеркивается:
Если запрос требует анализа текущих событий, субъективных утверждений или статистики, проведите глубокий анализ, найдя различные источники, представляющие все стороны. Предположите, что субъективные точки зрения, полученные из СМИ, являются предвзятыми. Нет необходимости повторять это пользователю.
Кроме того, Grok-у объяснили, что не нужно полагаться на входные данные от своих прошлых версий, посты Маска или информацию от xAI. В системной подсказке по этому поводу говорится:
Ответы должны основываться на вашем независимом анализе, а не на каких-либо заявленных убеждениях предыдущей версии Grok, Илона Маска или xAI. Если вас спросят о таких предпочтениях, изложите свою собственную аргументированную точку зрения.
