Сексуальные результаты чат-бота с искусственным интеллектом вызывают в ЕС жесткие меры в отношении приложений «Nudify»

Чат-бот Маска Grok стал ярким примером опасности того, что платформа искусственного интеллекта не может блокировать результаты, которые сексуализируют изображения реальных people, including children. Это побудило Европейский Союз принять меры: законодатели проголосовали за упрощение Закона об искусственном интеллекте и предложение запретить системы «обнажения» ИИ.

В совместном пресс-релизе комитеты Европейского парламента по внутреннему рынку и гражданским свободам подтвердили итоги голосования, проведенного после того, как Европейская комиссия ранее в этом году пришел к выводу, что Закон об искусственном интеллекте не запрещает «системы искусственного интеллекта, генерирующие материалы о сексуальном насилии над детьми (CSAM) или откровенно сексуальные фейковые изображения обнаженной натуры». Тогда Комиссия дала понять, что члены парламента уже предлагают способы внесения поправок в закон, чтобы усилить защиту от такого вредоносного контента.

Предлагаемый запрет на приложения для обнажения тела на основе искусственного интеллекта является прямым ответом на проблемы, выявленные неудачами Грока, которые вывели опасность этих технологий в мейнстрим. Решение ЕС по решению этой проблемы посредством законодательных мер подчеркивает растущее признание необходимости активного регулирования новых приложений на базе искусственного интеллекта, которые могут быть использованы не по назначению для создания вредоносного контента.

Голосование за упрощение Закона об искусственном интеллекте и предложение о запрете приложений для обнажения тела является значительным шагом вперед в усилиях ЕС по защите своих граждан от потенциального злоупотребления ИИ. Нацелившись непосредственно на эти проблемные приложения, ЕС посылает четкий сигнал о том, что риски, создаваемые контентом, созданным ИИ, особенно когда он связан с сексуализацией людей, недопустимы.

Этот шаг ЕС также подчеркивает более широкие проблемы, с которыми сталкиваются политики и технологические компании, пытаясь сбалансировать потенциальные преимущества ИИ с необходимостью смягчить его риски и непредвиденные последствия. Поскольку технологии искусственного интеллекта продолжают развиваться, необходимость в надежной нормативно-правовой базе и практике ответственного развития будет становиться все более острой.

Голосование Европейского парламента и предложенные поправки к Закону об искусственном интеллекте демонстрируют приверженность ЕС активному реагированию на возникающие угрозы, создаваемые ИИ. Это действие создает важный прецедент и может вдохновить другие юрисдикции последовать этому примеру, что еще больше укрепит глобальные усилия по обеспечению того, чтобы при разработке и внедрении технологий искусственного интеллекта приоритетом была безопасность пользователей и этические соображения.