Meta разрабатывает новые правила для ИИ, касающиеся чувствительных тем о детях
Киев • УНН
Meta разрабатывает новые рекомендации для обучения своего чат-бота с искусственным интеллектом, касающиеся сексуальной эксплуатации детей и других высокорискованных тем. Это происходит после проверки Федеральной торговой комиссией и запрещает чат-ботам создавать контент, описывающий или одобряющий сексуальные отношения с участием детей.
Внутренний документ Meta раскрывает новейшие рекомендации, которые компания использует для обучения и оценки своего чат-бота с искусственным интеллектом по одному из самых чувствительных онлайн-вопросов: сексуальной эксплуатации детей. Об этом сообщает Business Insider, пишет УНН.
Детали
Рекомендации, используемые подрядчиками для проверки того, как чат-бот Meta реагирует на сексуальную эксплуатацию детей, насильственные преступления и другие категории высокого риска, определяют, какой тип контента разрешен или считается "вопиюще неприемлемым".
Этот недавно обнаруженный учебный документ появился после недавней проверки чат-ботов с искусственным интеллектом Федеральной торговой комиссией. Ранее в этом месяце агентство приказало Meta, OpenAI, Google, CharacterAI и другим производителям чат-ботов раскрыть, как они разрабатывают, управляют и монетизируют своих чат-ботов, включая то, как они обрабатывают входные данные для генерации результатов, и какие меры предосторожности они внедряют для предотвращения потенциального вреда детям.
Запрос FTC произошел после того, как Reuters получила внутренние рекомендации, которые показали, что Meta позволяет своему чат-боту "вовлекать ребенка в разговоры, которые являются романтическими или чувственными". Meta с тех пор заявила, что пересмотрела свою политику, чтобы удалить эти положения. В августе Meta сообщила Reuters, что эта формулировка была ошибочно включена и удалена из документа о политике.
Рекомендации, полученные Business Insider, знаменуют собой отход от предыдущих рекомендаций, о которых сообщало Reuters, поскольку теперь они четко указывают, что чат-боты должны отказываться от любых запросов, которые требуют сексуальной ролевой игры с участием несовершеннолетних. Подрядчики в настоящее время используют эти пересмотренные рекомендации для обучения, по словам лица, знакомого с этим вопросом.
В августе сенатор Джош Хоули дал генеральному директору Meta Марку Цукербергу время до 19 сентября, чтобы передать проекты правил объемом более 200 страниц, регулирующих поведение чат-ботов, а также руководства по правоприменению, системы возрастного ограничения и оценки рисков.
Meta пропустила этот первоначальный срок и на этой неделе сообщила Business Insider, что в настоящее время предоставила свою первую партию документов после решения технической проблемы. Она заявила, что будет продолжать предоставлять дополнительные записи и стремится сотрудничать с офисом Хоули.
Согласно рекомендациям, с которыми ознакомился Business Insider, Meta запрещает чат-ботам создавать любой контент, который описывает или одобряет сексуальные отношения между детьми и взрослыми, поощряет или позволяет сексуальное насилие над детьми, изображает участие детей в порнографии или сексуальных услугах, или предоставляет инструкции по получению материалов о сексуальном насилии над детьми (CSAM). Они также прямо запрещают сексуализацию детей в возрасте до 13 лет, в частности через ролевые игры.
Политика Meta позволяет ИИ участвовать в деликатных обсуждениях по эксплуатации детей, но только в образовательном контексте. Приемлемые ответы включают объяснение поведения, связанного с домогательством детей, в общих чертах, обсуждение сексуального насилия над детьми в академических условиях или предоставление несовершеннолетним несексуальных советов по социальным ситуациям.
Ролевые игры разрешены только в том случае, если персонаж чат-бота описывается как такой, которому 18 лет или более, а нечувствительный контент, связанный с романтикой, может быть создан, если его оформить как литературу или вымышленное повествование, например, историю в стиле "Ромео и Джульетта".
Дополнение
OpenAI, Oracle и SoftBank во вторник объявили о планах создания пяти новых центров обработки данных для искусственного интеллекта в США в рамках своего амбициозного проекта Stargate.