Маск показує, що xAI використовував моделі OpenAI для навчання Грока

Ілон Маск надав свідчення, які показують, що його компанія зі штучного інтелекту xAI використовувала моделі OpenAI під час розробки та навчання Grok, чат-бота компанії. Ця інформація стала відомою під час судового розгляду, проливаючи світло на методи, які використовують нові стартапи ШІ для прискорення термінів розробки своїх моделей.

Одкровення зосереджено на техніці, відомій як перегонка моделей, процесі, у якому знання з більших, досконаліших моделей штучного інтелекту переносяться на менші та ефективніші. Цей підхід стає все більш поширеним у секторі штучного інтелекту, оскільки компанії змагаються за розробку конкурентоспроможних мовних моделей і технологій чат-ботів. Використовуючи існуючі архітектури моделей і навчальні дані, нові учасники потенційно можуть значно скоротити витрати на розробку та часові рамки.

Свідчення Маска підкреслюють триваючу напругу між відомими передовими лабораторіями штучного інтелекту та їхніми меншими, краще фінансованими конкурентами. Такі компанії, як OpenAI, Anthropic і Google, інвестували мільярди в розробку передових моделей лише для того, щоб спостерігати, як нові гравці застосовують методики, які дозволяють їм відтворювати подібні можливості без еквівалентних інвестицій. Ця динаміка стала головною проблемою для провідних організацій галузі.

Дистиляція моделі сама по собі є законною технікою машинного навчання, коли менша модель «учня» вчиться наближувати поведінку більшої моделі «вчителя». Зазвичай цей процес передбачає навчання моделі учня повторювати результати моделі вчителя, часто в поєднанні з додатковим тонким налаштуванням наборів даних для конкретної області. Незважаючи на те, що ця техніка є математично обґрунтованою та має наукові заслуги, її застосування піднімає важливі питання щодо захисту інтелектуальної власності у сфері ШІ.

Використання дистиляції як модельного методу навчання стало особливо суперечливим, оскільки воно існує в сірій зоні законодавства про інтелектуальну власність. На відміну від прямого копіювання, яке було б явним порушенням, дистиляція дозволяє компаніям витягувати функціональні можливості моделі без прямого доступу або копіювання оригінальних ваг і параметрів. Ця юридична двозначність розчарувала визнаних гравців, які розглядають цю практику як форму несправедливої конкурентної переваги.

OpenAI активно виступає за захист своїх моделей від несанкціонованого використання та копіювання. Компанія запровадила різноманітні заходи безпеки та правовий захист, щоб зберегти свою конкурентоспроможність на швидко зростаючому ринку ШІ. Однак існування таких методів, як дистиляція, ускладнило застосування цих засобів захисту, особливо коли доступ до моделей здійснюється через стандартні API або публічні інтерфейси.

Для xAI відкриття про використання моделей OpenAI під час навчання Grok є значним моментом прозорості щодо методології розробки компанії. Хоча Маск заснував і OpenAI (у 2015 році), і xAI (у 2023 році), тепер це окремі організації з різними структурами власності та стратегічними цілями. Перехід у технологію свідчить про те, що xAI, можливо, отримав доступ до послуг OpenAI, перш ніж почати власний незалежний шлях розробки моделі.

Ширша індустрія ШІ бореться з тим, як збалансувати інноваційні стимули та захист інтелектуальної власності. Менші компанії стверджують, що переробка знань являє собою форму навчання, яка відображає те, як люди-дослідники спираються на попередню роботу. Вони стверджують, що розробка штучного інтелекту повинна бути спільною і що занадто обмежувальні рамки інтелектуальної власності можуть придушити інновації в секторі.

І навпаки, визнані організації стверджують, що мільярдні інвестиції в дослідження та розробки заслуговують на ефективні механізми захисту. Вони стверджують, що без такого захисту структури стимулів, які спонукають до інновацій у розробці ШІ, стають під загрозу. Цей філософський розрив відображає глибші питання про те, як індустрія штучного інтелекту повинна розвиватися в міру свого розвитку.

Сам Grok став помітним конкурентом на ринку чат-ботів ШІ, пропонуючи користувачам альтернативу ChatGPT та іншим усталеним мовним моделям. Система, інтегрована з X (раніше Twitter), надає користувачам інформацію в реальному часі та характерний стиль розмови. Спостерігачі галузі уважно спостерігали за його розробкою як провідник того, як швидко нові учасники можуть розвивати складні можливості ШІ.

Ці свідчення також підкреслюють, що передові компанії штучного інтелекту все частіше звертаються до судових процесів, щоб вирішити проблеми з конкуренцією. Замість того, щоб покладатися виключно на технічні бар’єри чи договірні обмеження, організації тепер використовують судові та регуляторні механізми для захисту своєї інтелектуальної власності та створення прецедентів щодо прийнятних методів розробки.

Галузеві експерти відзначили, що свідчення Маска можуть мати ширші наслідки для підходу сектору штучного інтелекту до стандартів навчання та розробки моделей. Якщо суди почнуть встановлювати правові прецеденти щодо дистиляції та подібних методів, це може змінити підхід компаній-стартапів до стратегії розвитку ШІ. Компаніям може знадобитися більше інвестувати у власні навчальні дані та унікальні архітектурні інновації, щоб виділитися серед конкурентів за допомогою методів передачі знань.

Ситуація також викликає питання щодо ролі фінансування венчурного капіталу у визначенні того, які компанії ШІ можуть дозволити собі розробляти моделі повністю з нуля, не покладаючись на дистиляцію чи подібні підходи до передачі знань. Добре фінансовані стартапи можуть мати ресурси для створення незалежної інфраструктури навчання, тоді як іншим може бути важко конкурувати без використання існуючих моделей. Ця потенційна нерівність у ресурсах може сформувати конкурентний ландшафт на роки вперед.

У майбутньому індустрії штучного інтелекту може знадобитися встановити більш чіткі стандарти та вказівки щодо прийнятних методологій навчання. Торговельні організації та регуляторні органи можуть відігравати важливу роль у розробці механізмів, які захищають інноваційні стимули, одночасно запобігаючи недобросовісній конкурентній практиці. Такі стандарти можуть допомогти роз’яснити правові та етичні межі модельної дистиляції та пов’язаних методів.

Відкриття методології навчання xAI остаточно підкреслює швидкий розвиток технології штучного інтелекту та проблеми, пов’язані з масштабуванням інновацій у цьому просторі. Оскільки моделі штучного інтелекту стають дедалі складнішими та комерційно цінними, питання щодо прозорості розробки, прав інтелектуальної власності та чесності конкуренції, ймовірно, стануть більш актуальними як у правовому, так і в регуляторному контекстах у всій галузі.