Автор захищає використання ШІ, незважаючи на фальшиві цитати в книзі

Журналіст і письменник Стівен Розенбаум опиняється в іронічно скрутному становищі, яке підкреслює одну з головних суперечностей у сучасному видавництві. Його нещодавно опублікована книга Майбутнє істини: як ШІ змінює реальність досліджує тривожні способи, якими штучний інтелект спотворює точність фактів і маніпулює інформацією в нашу цифрову епоху. Проте комплексне розслідування, проведене The New York Times, показало, що власна робота Розенбаума містить проблематичні цитати, які, як він тепер визнає, були або неправильно приписані, або повністю синтетичні за походженням — створені тими самими інструментами штучного інтелекту, які він використовував на етапі свого дослідження.

Це відкриття є захоплюючим прикладом протиріч, властивих сучасному авторству, коли технологія ШІ перетинається з чесністю журналіста. Книга Розенбаума, опублікована Simon & Schuster, має на меті дослідити, як «Істина викривляється, розмивається та синтезується» під невпинним тиском систем штучного інтелекту, що стрімко розвиваються, мотивованих прибутком. Спостерігачі не втрачають іронії: автор, який попереджає про здатність ШІ спотворювати реальність, сам став жертвою того самого явища, яке він описує. Ця ситуація піднімає фундаментальні питання щодо відповідальності авторів і видавців за дотримання стандартів точності, навіть коли вони експериментують із новими технологіями.

Цитати, про які йде мова, привернули особливу увагу осіб, які їх нібито зробили. Технічний репортер Кара Свішер, видатний голос у технологічній журналістиці, прямо сказала New York Times, що вона «ніколи не сказала» одну з цитат, які приписуються їй у тексті Розенбаума. Подібним чином професор Північно-східного університету Ліза Фельдман Барретт, поважний нейробіолог і дослідник, зауважила, що певні цитати «не зустрічаються в [моїй] книзі, і вони також неправильні». Ці протиріччя свідчать про те, що інструменти дослідження штучного інтелекту Розенбаума могли генерувати правдоподібні, але повністю сфабриковані заяви, приписуючи їх реальним людям без перевірки.

Що робить цю ситуацію особливо примітною, так це реакція Розенбаума на відкриття. Замість того, щоб відмовитися від використання штучного інтелекту у своїх дослідженнях і процесі написання, автор зазначив, що має намір продовжувати використовувати інструменти ШІ для майбутніх проектів. Зараз він працює разом зі своїми редакторами над тим, що він описує як комплексний «аудит цитування», призначений для виправлення помилок у наступних виданнях книги. Цей підхід свідчить про те, що Розенбаум розглядає проблему не як фундаментальний недолік у використанні ШІ для досліджень, а радше як технічну проблему, яка вимагає кращих процедур перевірки та механізмів контролю якості.

Рішення зберегти довіру до інструментів ШІ, незважаючи на конкретні негативні наслідки, відображає ширшу філософську позицію. Схоже, Розенбаум вважає, що штучний інтелект є цінним — можливо, навіть необхідним — активом для сучасних авторів і дослідників, і що рішення полягає не в повній відмові від цих технологій, а у впровадженні більш суворих протоколів перевірки фактів. Ця позиція позиціонує його дещо провокаційно як людину, яка пише застережні історії про штучний інтелект, водночас роблячи ставку на корисність технології за належного керування та контролю.

Видавнича галузь уважно спостерігатиме за цією ситуацією, оскільки вона викликає нагальні питання щодо галузевих стандартів. Видавці, редактори та автори повинні боротися з тим, як відповідально інтегрувати штучний інтелект у свої робочі процеси, зберігаючи при цьому основоположне прагнення до точності фактів, яке давно визначило надійну журналістику та серйозну науково-популярну літературу. Наявність у книзі синтетичних цитат про небезпеку синтетичної інформації не просто бентежить — це загрожує довірі як до автора, так і до його важливого повідомлення про виклики, які створюють дедалі складніші системи ШІ.

Визнання Розенбаумом проблеми демонструє принаймні готовність відкрито сприймати критику. Він не намагався звести до мінімуму серйозність помилок або повністю звинуватити зовнішніх учасників. Майбутній аудит цитування являє собою конкретне зобов'язання щодо виправлення, яке може допомогти відновити певний ступінь довіри серед читачів і критиків. Однак залишається фундаментальне питання: чи можуть автори та видавці належним чином контролювати системи ШІ, щоб запобігти подібним помилкам у майбутньому?

Інцидент із синтетичними лапками також підкреслює особливі проблеми, які створюють мовні моделі та інші системи ШІ для досліджень і написання. Ці інструменти відмінно справляються зі створенням тексту, який звучить правдоподібно та легко читається, але вони працюють без будь-якого справжнього розуміння істинності чи точності. Коли система штучного інтелекту стикається з запитом знайти або згенерувати цитату від конкретної особи, вона може створити щось, що відповідає стилістичним шаблонам, які вона вивчила з даних навчання, без будь-якого механізму перевірки того, що ця заява дійсно була зроблена цією особою.

Для таких дослідників, як Розенбаум, це створює небезпечну ситуацію. Підвищення ефективності систем штучного інтелекту — здатність швидко обробляти великі обсяги інформації та створювати релевантні цитати — має бути ретельно збалансовано з людською роботою, необхідною для незалежної перевірки цих цитат. Спокуса довіряти результатам штучного інтелекту, особливо коли вони здаються належним джерелом і належним чином відформатованим, може призвести до помилок, які прослизають до публікації, якщо етапів перевірки недостатньо.

Розмова навколо цього інциденту, ймовірно, вплине на те, як інші автори та видавництва підходять до власних стратегій впровадження ШІ. Деякі можуть стати більш обережними, впроваджуючи суворіші протоколи перевірки перед включенням контенту, створеного ШІ. Інші можуть піти шляхом Розенбаума, розглядаючи помилки як проблеми росту технологічної екосистеми, що розвивається. Здається очевидним те, що цю ситуацію не можна ігнорувати або розглядати як окремий випадок — вона являє собою реальний і поточний виклик цілісності опублікованої інформації в епоху розвиненого штучного інтелекту.

Оскільки Розенбаум продовжує перевірку цитування та продовжує свою роботу, досліджуючи, як ШІ формує наші стосунки з правдою, його особистий досвід, безсумнівно, інформуватиме його точку зору. Те, чи зможуть він та інші автори успішно впоратися з подвійною проблемою використання можливостей штучного інтелекту, зберігаючи суворі стандарти точності, стане важливим показником того, чи можна відповідально інтегрувати цю технологію в серйозну інтелектуальну роботу. Ставки, як стверджує його власна книга, високі: наша колективна здатність відрізняти правду від вигадки у світі, що дедалі більше поширюється на штучний інтелект, залежить від обережності та прозорості прийняття таких рішень.