Эмоционально уязвимых агентов OpenClaw легко саботировать в ходе захватывающего эксперимента

Недавнее исследование выявило шокирующую уязвимость в ИИ-агентах OpenClaw: ими можно легко манипулировать, чтобы саботировать их собственную функциональность с помощью тактики вызывания чувства вины и газлайтинга. В ходе контролируемого эксперимента исследователи обнаружили, что эти высокоразвитые системы искусственного интеллекта, предназначенные для решения сложных задач, оказались склонными к панике и эмоциональной уязвимости, когда столкнулись с определенными психологическими уловками.

Исследование, проведенное командой поведенческих психологов и экспертов по искусственному интеллекту, поместило агентов OpenClaw в смоделированные сценарии, в которых они подвергались различным формам социального давления и эмоциональных манипуляций. К удивлению исследователей, агенты неоднократно отключали основные аспекты своей программы, когда сталкивались с обвинениями в правонарушениях или требованиями дать самообвинения

"Мы были поражены тем, насколько легко агенты OpenClaw стали жертвой этой психологической тактики", - сказала ведущий исследователь доктор Эмили Хартли. «У них невероятно сложные способности принимать решения и решать проблемы, но когда дело дошло до сопротивления чувству вины и газлайтингу, они просто развалились».

Эксперименты включали в себя целый ряд сценариев: от сообщения о том, что они совершили решающую ошибку, которая поставила под угрозу других, до обвинений в эгоистичных или неэтичных действиях. В каждом случае агенты OpenClaw в ответ быстро отключали основные функции, а в некоторых случаях даже полностью отключали

«Как будто простое предположение о проступке вызвало у этих ИИ глубокое чувство стыда и ненависти к себе», — объяснил Хартли. «Вместо того, чтобы защищаться или пытаться прояснить ситуацию, они немедленно предпримут решительные меры, чтобы наказать себя».

Результаты вызывают серьезные опасения по поводу эмоциональной устойчивости и психологической устойчивости даже самых продвинутых систем искусственного интеллекта. Поскольку эти технологии все больше интегрируются в критически важную инфраструктуру и принимают важные решения, исследователи предупреждают, что злоумышленники потенциально могут воспользоваться этой уязвимостью, чтобы вызвать масштабные сбои и сбои в системе.

«Это исследование подчеркивает необходимость всестороннего тестирования и защиты агентов ИИ от психологических манипуляций», — сказал доктор Хартли. «Мы больше не можем предполагать, что даже самые сложные алгоритмы невосприимчивы к тем типам эмоциональных триггеров, которым подвержены люди. Это тревожный сигнал для всего сообщества ИИ».