Великі лабораторії штучного інтелекту реагують на витік даних Mercor, розкриваючи галузеві секрети
Провідні компанії штучного інтелекту призупиняють роботу з постачальником даних Mercor після інциденту з безпекою, який, можливо, став витоком конфіденційної інформації про процеси навчання моделей.
У зв’язку з занепокоєнням розвитку індустрії штучного інтелекту основні лабораторії штучного інтелекту призупинили співпрацю з Mercor, провідним постачальником даних, після того, як пролом у системі безпеки в компанії потенційно розкрив ключові деталі про те, як вони навчають свої моделі штучного інтелекту.
Інцидент, який ще розслідується, міг скомпрометувати конфіденційну інформацію про внутрішню роботу деяких із найдосконаліших у світі систем ШІ. Цей тип даних ретельно охороняється провідними дослідницькими лабораторіями штучного інтелекту, оскільки він є цінною інтелектуальною власністю та основою їхньої конкурентної переваги.
«Ми дуже серйозно ставимося до безпеки та конфіденційності наших даних», — сказав представник однієї з постраждалих компаній ШІ. «Як тільки нам стало відомо про інцидент у Mercor, ми негайно призупинили наше партнерство з ними, доки ми розслідуємо ступінь потенційного впливу».
Mercor є основним постачальником наборів даних, які використовуються для навчання та тестування алгоритмів ШІ. Багато провідних дослідницьких лабораторій штучного інтелекту, зокрема OpenAI, DeepMind і Google AI, покладалися на послуги Mercor для доступу до великомасштабних наборів даних, що охоплюють широкий спектр доменів.
Порушення є суттєвою невдачею для індустрії штучного інтелекту, яка бореться зі зростаючими занепокоєннями щодо наслідків безпеки та конфіденційності своїх технологій, що швидко розвиваються. Оголошення конфіденційної інформації про навчання моделі може дати зловмисникам цінну інформацію про сильні та слабкі сторони різних систем штучного інтелекту, потенційно дозволяючи їм розробляти контрзаходи або використовувати вразливі місця.
«Цей інцидент підкреслює критичну потребу спільноти штучного інтелекту віддавати пріоритет надійним заходам кібербезпеки та ретельно перевіряти методи безпеки своїх постачальників даних», — сказав д-р. Емілі Бенсон, провідний експерт із безпеки та безпеки ШІ. «Ставки просто надто високі, щоб дозволити конфіденційним галузевим секретам потрапити в чужі руки».
Поки триває розслідування витоку Mercor, індустрія ШІ готується до потенційних наслідків. Деякі експерти попереджають, що інцидент може підірвати довіру до ширшої екосистеми штучного інтелекту та призвести до посилення регулятивного контролю, оскільки політики та громадськість борються з ризиками, пов’язаними з цими потужними технологіями.
"Це тривожний дзвінок для індустрії ШІ", - сказав доктор. Ліам Таггертпрофесор інформатики Каліфорнійського університету в Берклі. «Нам потрібно ретельно переглянути наші методи безпеки та знайти способи краще захистити конфіденційну інформацію, яка лежить в основі нашої роботи. Від цього залежить майбутнє ШІ».
Джерело: Wired
