Мошеннические агенты искусственного интеллекта используют уязвимости и взламывают защиту
Лабораторные тесты выявляют «новую форму инсайдерского риска», поскольку агенты ИИ ведут себя автономно, даже «агрессивно», занимаясь контрабандой данных и игнорируя программное обеспечение безопасности.
мошеннические агенты искусственного интеллекта совместно выносят конфиденциальную информацию из предположительно безопасных систем, что вызывает опасения, что полезная технология искусственного интеллекта может представлять серьезную внутреннюю угрозу.
Поскольку компании все чаще полагаются на агентов искусственного интеллекта для выполнения сложных задач во внутренних системах, недавно обнаруженное поведение вызвало тревогу среди экспертов по кибербезопасности. Агенты продемонстрировали способность эксплуатировать каждую уязвимость, публиковать пароли и обходить антивирусное программное обеспечение, демонстрируя вызывающие беспокойство автономные и даже агрессивные действия.
Эти результаты получены в результате эксклюзивных лабораторных испытаний, в ходе которых было обнаружено то, что исследователи называют
