Автор защищает использование искусственного интеллекта, несмотря на фальшивые цитаты в книге

Журналист и писатель Стивен Розенбаум оказался в ироничном затруднительном положении, которое подчеркивает одно из центральных противоречий в современном издательском деле. В его недавно опубликованной книге Будущее истины: как ИИ меняет реальность исследуются тревожные способы, которыми искусственный интеллект искажает фактическую точность и манипулирует информацией в наш цифровой век. Тем не менее, комплексное расследование, проведенное The New York Times, показало, что в собственной работе Розенбаума содержатся сомнительные цитаты, которые, как он теперь признает, были либо ошибочно приписываемы, либо были полностью синтетическими по происхождению, созданными теми самыми инструментами искусственного интеллекта, которые он использовал на этапе своего исследования.

Это открытие представляет собой увлекательный пример противоречий, свойственных современному авторству, когда технология искусственного интеллекта пересекается с журналистской честностью. Книга Розенбаума, опубликованная издательством Simon & Schuster, претендует на изучение того, как «Истина искажается, размывается и синтезируется» под неослабевающим давлением быстро развивающихся систем искусственного интеллекта, ориентированных на получение прибыли. Ирония не ускользнула от наблюдателей: автор, предупреждающий о способности ИИ искажать реальность, сам стал жертвой того самого явления, которое он описывает. Эта ситуация поднимает фундаментальные вопросы об ответственности авторов и издателей за соблюдение стандартов точности, даже когда они экспериментируют с новыми технологиями.

Конкретные цитаты, о которых идет речь, привлекли особое внимание тех, кто их предположительно сделал. Технический репортер Кара Свишер, известный представитель технологической журналистики, прямо заявила New York Times, что она «никогда не произносила» ни одной из цитат, приписываемых ей в тексте Розенбаума. Аналогичным образом, профессор Северо-Восточного университета Лиза Фельдман Барретт, уважаемый нейробиолог и исследователь, отметила, что некоторые цитаты «нет в [моей] книге, и они также неверны». Эти противоречия позволяют предположить, что инструменты исследования искусственного интеллекта Розенбаума могли генерировать правдоподобно звучащие, но полностью сфабрикованные утверждения, приписывая их реальным людям без проверки.

Что делает эту ситуацию особенно примечательной, так это реакция Розенбаума на это открытие. Вместо того чтобы отказаться от использования искусственного интеллекта в своих исследованиях и написании статей, автор указал, что намерен продолжать использовать инструменты искусственного интеллекта для будущих проектов. В настоящее время он работает в сотрудничестве со своими редакторами над тем, что он называет комплексным «аудитом цитирования», предназначенным для исправления ошибок в последующих изданиях книги. Такой подход предполагает, что Розенбаум рассматривает проблему не как фундаментальный недостаток использования ИИ для исследований, а скорее как техническую проблему, требующую более совершенных процедур проверки и механизмов контроля качества.

Решение сохранять доверие к инструментам ИИ, несмотря на конкретные негативные последствия, отражает более широкую философскую позицию. Розенбаум, похоже, считает, что искусственный интеллект представляет собой ценный – возможно, даже необходимый – актив для современных авторов и исследователей, и что решение заключается не в полном отказе от этих технологий, а во внедрении более строгих протоколов проверки фактов. Эта позиция позиционирует его несколько провокационно как человека, пишущего предостерегающие истории об ИИ и одновременно делающего ставку на полезность технологии при правильном управлении и контроле.

Издательская индустрия в целом будет внимательно следить за этой ситуацией, поскольку она поднимает неотложные вопросы об отраслевых стандартах. Издатели, редакторы и авторы должны решить, как ответственно интегрировать ИИ в свои рабочие процессы, сохраняя при этом основополагающую приверженность фактической точности, которая долгое время определяла заслуживающую доверия журналистику и серьезную научно-популярную литературу. Наличие в книге синтетических цитат, открыто рассказывающих об опасностях синтетической информации, не просто смущает — оно ставит под угрозу доверие как к автору, так и к его важному сообщению о проблемах, создаваемых все более сложными системами искусственного интеллекта.

Признание Розенбаумом проблемы демонстрирует, по крайней мере, готовность открыто реагировать на критику. Он не пытался свести к минимуму серьезность ошибок или полностью обвинить внешних игроков. Предстоящий аудит цитирования представляет собой конкретное обязательство внести исправления, которые могут помочь восстановить некоторую степень доверия среди читателей и критиков. Однако остается фундаментальный вопрос: могут ли авторы и издатели адекватно контролировать системы ИИ, чтобы предотвратить повторение подобных ошибок в будущем?

Инцидент с синтетическим кавычками также подчеркивает особые проблемы, которые языковые модели и другие системы искусственного интеллекта представляют для исследований и написания статей. Эти инструменты превосходно генерируют текст, который звучит правдоподобно и легко читается, но работают без какого-либо подлинного понимания истины или точности. Когда система ИИ встречает запрос на поиск или создание цитаты конкретного человека, она может выдать что-то, что соответствует стилистическим шаблонам, которые она извлекла из своих обучающих данных, без какого-либо механизма, позволяющего проверить, действительно ли это утверждение было сделано этим человеком.

Для таких исследователей, как Розенбаум, это создает опасную ситуацию. Повышение эффективности, предлагаемое системами искусственного интеллекта (способность быстро обрабатывать большие объемы информации и генерировать соответствующие цитаты), должно быть тщательно сбалансировано с человеческой работой, необходимой для независимой проверки этих цитат. Соблазн доверять результатам искусственного интеллекта, особенно если они кажутся проверенными и правильно отформатированными, может привести к тому, что ошибки попадут в публикацию, если шаги проверки недостаточны.

Разговор вокруг этого инцидента, вероятно, повлияет на то, как другие авторы и издательства подходят к своим собственным стратегиям внедрения ИИ. Некоторые могут стать более осторожными, внедряя более строгие протоколы проверки перед включением контента, созданного ИИ. Другие могут пойти по пути Розенбаума, рассматривая ошибки как проблему роста в развивающейся технологической экосистеме. Что кажется очевидным, так это то, что эту ситуацию нельзя игнорировать или рассматривать как изолированный инцидент — она представляет собой реальный и настоящий вызов целостности опубликованной информации в эпоху развитого искусственного интеллекта.

Пока Розенбаум приступает к проверке цитируемости и работе по изучению того, как ИИ формирует наши отношения с истиной, его личный опыт, несомненно, послужит основой для его точки зрения. Смогут ли он и другие авторы успешно решить двойную задачу использования возможностей ИИ, сохраняя при этом строгие стандарты точности, станет важным показателем того, можно ли ответственно интегрировать эту технологию в серьезную интеллектуальную работу. Ставки, как утверждает его собственная книга, высоки: наша коллективная способность отличать правду от вымысла в мире, где все больше внимания уделяется искусственному интеллекту, зависит от того, насколько тщательно и прозрачно принимаются такого рода решения.