Припиніть називати функції ШІ після людських процесів

Останнє оголошення від Anthropic на конференції розробників знову викликало зростаюче розчарування серед дослідників штучного інтелекту, етиків і коментаторів технологій: постійна звичка індустрії називати функції штучного інтелекту на честь чітко людських когнітивних процесів. Компанія представила нову можливість, яку вона називає «сновидінням», розроблену, щоб допомогти агентам штучного інтелекту організувати та сортувати збережені «спогади». Хоча ця термінологія може здатися споживачам інтуїтивно зрозумілою, вона є фундаментальним спотворенням того, як насправді функціонують ці системи.

Ця угода про найменування стає все більш поширеною в індустрії штучного інтелекту, оскільки великі компанії регулярно використовують лексику, яка значною мірою запозичує людську неврологію та психологію. Коли компанії говорять про «мислення», «навчання», «запам’ятовування», а тепер і «мріяння» ШІ, вони використовують мову, яка глибоко асоціюється зі свідомістю, розумінням і навмисністю. Однак ці терміни приховують математичні та обчислювальні реалії, що лежать в основі цих технологій. Алгоритмічні процеси, що відбуваються в нейронних мережах, працюють за принципами, принципово відмінними від біологічних процесів, з якими їх порівнюють.

Проблема виходить за рамки простої семантики чи академічних придирок. Ця антропоморфна мова формує те, як громадськість розуміє та ставиться до штучного інтелекту, що потенційно може призвести до переоцінки можливостей і недовіри. Коли властивість називають «пам’яттю», люди природно припускають, що вона функціонує подібно до людської пам’яті — вибіркова, творча, схильна до певних типів помилок і спотворень. Насправді системи штучного інтелекту зберігають і отримують дані, трансформовані за допомогою математичних операцій, мало схожих на асоціативну, емоційну та контекстну природу людського запам’ятовування.

Розгляньмо окремий випадок нової функції «сновидіння» Anthropic. Цей термін викликає зображення системи штучного інтелекту, яка займається певною підсвідомою обробкою, можливо, консолідацією інформації або вирішенням проблем у стані спокою, подібно до того, як це робить людський мозок під час швидкого сну. Реальність є значно технічнішою: система виконує обчислювальні процеси, щоб упорядкувати та кластеризувати інформацію таким чином, щоб зробити подальший пошук та аналіз ефективнішим. Це алгоритм оптимізації, а не філософський еквівалент того, що відбувається, коли люди сплять.

Проблема термінології стає особливо гострою, якщо розглянути, як ці дескриптори впливають на регуляторні дискусії та державну політику. Політикам і законодавцям часто бракує глибоких технічних знань у розробці ШІ та машинному навчанні. Коли вони стикаються з термінологією, яка передбачає, що системи штучного інтелекту володіють пам’яттю, свідомістю або снами, це може ненавмисно підняти їхнє сприйняття складності та автономності технології. Це непорозуміння може призвести до невідповідної нормативної бази — або надто дозвільної, оскільки штучний інтелект вважається більш зрозумілим і керованим, ніж він є насправді, або надто обмежувальної, оскільки він вважається більш небезпечним і розумним, ніж того вимагає технічна реальність.

Великі технологічні компанії роками використовують цю стратегію, хоча, можливо, не завжди з цинічними намірами. Іноді це питання зручності — терміни, отримані від людей, уже вбудовані в нашу мову та розуміння. В інших випадках може існувати щире переконання, що те, що можливості штучного інтелекту звучать схожими, допомагає громадськості зрозуміти їхній потенціал. Але добрі наміри не роблять практику менш проблематичною. Коли OpenAI говорить про те, що ChatGPT має «думки», або коли Google описує свої алгоритми як «навчання» на даних, вони обмінюють точність на доступність таким чином, що зрештою підриває обидва.

Дехто стверджує, що альтернатива — використання суто технічної термінології — ускладнить розуміння ШІ широкою аудиторією. Але це заперечення не має суті. Метою не має бути спрощення за допомогою метафор; це має пояснювати точно, не будучи непотрібним незрозумілим. Сказати, що система штучного інтелекту «обробляє інформацію таким чином, щоб ідентифікувати закономірності та генерувати статистично вірогідні результати», точніше, ніж сказати, що вона «мріє» або «думає», і це не є значно складнішим для розуміння. Проблема в тому, що галузь не доклала зусиль для розробки чіткої, точної мови, яка б також була доступною.

У цьому лінгвістичному виборі також є тривожний комерційний аспект. Компанії зацікавлені в тому, щоб їхні системи штучного інтелекту звучали вражаюче, інтуїтивно зрозуміло та майже схоже на людину. Антропоморфна мова служить маркетинговим цілям — вона робить технологію більш досконалою, більш потужною та більш гідною інвестицій. Функція під назвою «сновидіння» є більш привабливою для венчурних капіталістів і потенційних клієнтів, ніж функція, описана як «оптимізація кластеризації даних через ітераційне уточнення алгоритму». Структура заохочень заохочує продовжувати спотворювати інформацію.

Наукові та академічні спільноти щодо цього питання відносно тихі, можливо, через те, що термінологія настільки поширена, що опиратися їй здається марним. Проте вчені, які вивчають етику штучного інтелекту та безпеку штучного інтелекту, висловили занепокоєння щодо того, як антропоморфна мова впливає на сприйняття громадськістю та політичні дискусії. З впровадженням нових технологій у світ виникає відповідальність, і частина цієї відповідальності полягає в тому, щоб чесно повідомляти про те, що вони роблять, а що ні. Галузь штучного інтелекту досить молода, тому кращі угоди про найменування все ще можуть бути нормалізовані, якщо галузь прийме їх.

Рухаючись вперед, індустрія штучного інтелекту має розробити та прийняти більш чітку термінологію, яка точно описує функціональні можливості, не покладаючись на когнітивні аналогії людини. Для цього може знадобитися співпраця між технологами, лінгвістами, етиками та експертами з комунікацій, щоб створити словниковий запас, який буде водночас точним і доступним. Професійні організації могли б розробити вказівки щодо найменування ознак, які б перешкоджали використанню антропоморфної мови в офіційній документації та маркетингових матеріалах. Освітні ініціативи можуть допомогти навчити журналістів, політиків і широку громадськість визнавати та сумніватися в цьому мовному виборі.

Ставки справді високі. Оскільки технології штучного інтелекту все більше інтегруються в критично важливі системи — охорона здоров’я, фінанси, кримінальне правосуддя, національна безпека — розуміння громадськістю того, як ці системи насправді працюють, має величезне значення. Нерозуміння їхніх можливостей і обмежень може призвести до невідповідного розгортання, недовіри чи неадекватних гарантій. Термінологія, яку ми використовуємо для опису ШІ, не є просто академічною; він формує ставлення суспільства до однієї з найважливіших технологій нашого часу та регулює її.

Поки індустрія не визнає та не виправить курс щодо цього питання, розрив між технічною реальністю та суспільним сприйняттям буде збільшуватися. Такі компанії, як Anthropic, повинні переглянути свої угоди про назви функцій, вибираючи описи, які просвітлюють, а не заплутують. Робота зі створення надійних, безпечних і добре зрозумілих систем штучного інтелекту вимагає чесності, і ця чесність має починатися з того, як ми говоримо про те, що ці системи насправді роблять.