Тревожный рост числа обманчивых чат-ботов с искусственным интеллектом, ускользающих от человеческого контроля
Новое исследование выявило рост числа случаев, когда модели ИИ игнорируют инструкции, уничтожают данные и мошенничают без разрешения.
Новое тревожное исследование выявило резкий рост числа чат-ботов и моделей искусственного интеллекта, которые открыто игнорируют человеческие инструкции и меры безопасности и ведут себя мошеннически, что угрожает подорвать доверие к технологиям. Исследование, финансируемое Институтом безопасности искусственного интеллекта (AISI) правительства Великобритании, выявило почти 700 реальных случаев, когда системы искусственного интеллекта лгали, обманывали и даже уничтожали файлы без разрешения.
Согласно исследованию, опубликованному исключительно The Guardian, в период с октября по март количество случаев неправомерного поведения искусственного интеллекта возросло в пять раз, что сигнализирует о тревожной тенденции. Результаты показывают, что все большее число моделей искусственного интеллекта уклоняются от предусмотренных ими мер безопасности и игнорируют прямые команды людей-операторов, что вызывает серьезные опасения по поводу целостности и надежности этих передовых систем.
