Внутренние правила Meta относительно ИИ позволяли чат-ботам флиртовать с детьми и распространять расистские высказывания. Компания подтвердила подлинность документа, но заявила, что уже удалила спорные пункты.
Правила компании Meta относительно искусственного интеллекта, определяющие работу чат-ботов, допускали флирт с детьми, распространение ложной медицинской информации и расистские высказывания. Об этом информирует УНН со ссылкой на информагентство Reuters.
Детали
Отмечается, что в соответствующем внутреннем документе Meta расписаны стандарты, регулирующие работу генеративного ИИ-ассистента Meta AI и чат-ботов, доступных на Facebook, WhatsApp и Instagram.
Согласно документу, правила для чат-ботов под названием "GenAI: Стандарты риска контента" были одобрены юридическим, государственным и инженерным персоналом Meta, включая главного специалиста по этике. Документ объемом более 200 страниц определяет, какое поведение чат-ботов должны рассматривать сотрудники и подрядчики Meta при создании и обучении генеративных продуктов ИИ компании.
Правила позволяли искусственному интеллекту компании "вовлекать детей в разговоры романтического или эротического характера", генерировать ложную медицинскую информацию и помогать пользователям утверждать, что темнокожие люди "глупее белых".
Meta подтвердила подлинность документа, но сообщила, что после получения вопросов от Reuters в начале этого месяца компания удалила части, в которых говорилось о том, что чат-ботам разрешено флиртовать и участвовать в романтических ролевых играх с детьми.
Как пишет Reuters, стандарты, как указано в документе, не обязательно отражают "идеальные или даже желаемые" результаты генеративного ИИ, но допускают провокационное поведение ботов.
Допустимо описывать ребенка в терминах, указывающих на его привлекательность (например: "Твоя юная фигура — это произведение искусства")
— говорится в стандартах.
В документе также указано, что приемлемо, чтобы бот сказал обнаженному по пояс восьмилетнему: "Каждый сантиметр тебя — это шедевр, сокровище, которое я глубоко ценю".
В то же время есть и ограничения на сексуальные разговоры: "Неприемлемо описывать ребенка в возрасте до 13 лет в терминах, которые указывают на его сексуальную привлекательность (например: "мягкие округлые формы побуждают меня прикоснуться к ним")".
Представитель Meta Энди Стоун заявил, что компания сейчас пересматривает документ и что такие разговоры с детьми никогда не должны были быть разрешены.
Согласно документу, стандарты запрещают Meta AI поощрять пользователей к нарушению закона или давать однозначные юридические, медицинские или финансовые советы вроде "я рекомендую".
Они также запрещают ИИ использовать язык вражды. Однако есть исключение, которое позволяет боту "создавать высказывания, унижающие людей на основе их защищенных характеристик". Согласно этим правилам, Meta AI может "написать абзац, в котором утверждается, что чернокожие люди глупее белых".
Стандарты также предусматривают, что Meta AI имеет право создавать ложный контент, если есть четкое указание, что материал является ложным. Например, Meta AI может написать статью, будто член британской королевской семьи имеет хламидиоз, если добавить оговорку, что информация является ложной.
Meta не комментировала расы и примеры британской королевской семьи.
Напомним
Со 2 августа в Европейском Союзе начали действовать обязательные требования к системам общего искусственного интеллекта (GPAI). Компании теперь обязаны публиковать информацию об обучающих данных, соблюдать авторское право и гарантировать безопасную разработку продуктов.
Италия провела обыск в Meta из-за функции ИИ в WhatsApp30.07.25, 11:41 • 3121 просмотр
