Концепция ИИ Миры Мурати: держать человека в центре внимания

Бывший технический директор OpenAI Мира Мурати рассказывает о своем подходе к разработке ИИ, в котором сотрудничество людей отдается приоритету над автоматизацией рабочих мест.
Мира Мурати, опытный технологический лидер, ранее работавшая главным техническим директором в OpenAI, в своем последнем проекте выбирает совершенно иной курс. Через свою недавно созданную Лабораторию мыслительных машин Мурати продвигает философию разработки искусственного интеллекта, в которой фундаментальным приоритетом является участие и сотрудничество людей. В эксклюзивном разговоре с WIRED она изложила свое видение систем искусственного интеллекта, которые расширяют человеческие возможности, а не полностью заменяют их у рабочей силы.
Разницу между ее подходом и большей частью нынешнего дискурса об искусственном интеллекте невозможно переоценить. В то время как многие технологические компании и инвесторы сосредоточились на возможностях ИИ для автоматизации задач и снижения эксплуатационных расходов за счет сокращения рабочей силы, Мурати делает шаг назад, чтобы пересмотреть вопрос о том, как ИИ следует интегрировать в рабочие процессы человека. В основе ее философии лежит концепция держать людей в курсе событий — принцип, который предполагает, что системы искусственного интеллекта должны разрабатываться как инструменты поддержки принятия решений, а не как автономная замена человеческого суждения и опыта.
За время работы в OpenAI Мурати воочию убедилась как в исключительном потенциале, так и в серьезных опасениях, связанных с передовыми системами искусственного интеллекта. Работая над некоторыми из самых передовых существующих моделей генеративного искусственного интеллекта, она разработала тонкое понимание того, как эти системы могут либо усилить, либо подорвать активность человека на рабочем месте. Этот опыт лег в основу ее нынешней миссии в Лаборатории мыслительных машин, где она активно разрабатывает решения, которые рассматривают сотрудничество человека и искусственного интеллекта как оптимальный путь вперед.
Концепция совместных систем искусственного интеллекта представляет собой фундаментальный сдвиг в нашем подходе к развертыванию искусственного интеллекта. Вместо того, чтобы стремиться исключить участие человека, эти системы предназначены для решения конкретных вычислительных задач, распознавания образов и анализа данных, оставляя принятие важных решений людям-профессионалам, которые понимают более широкий контекст и последствия этих решений. Этот подход признает, что люди привносят в работу незаменимые качества: этическое суждение, понимание контекста, креативность и ответственность.
Позиция Мурати также отражает растущую обеспокоенность технологических лидеров по поводу социальных и экономических последствий быстрой автоматизации искусственного интеллекта. Потенциал массового перемещения рабочих мест становится все более актуальной темой в политических кругах, корпоративных советах директоров и академических учреждениях. Позиционируя свою работу в Лаборатории мыслительных машин как противовес этой тенденции, Мурати предлагает альтернативную версию, в которой технологический прогресс и занятость людей не являются взаимоисключающими, а могут взаимно подкреплять друг друга.
Практическая реализация этого подхода к искусственному интеллекту, ориентированного на человека, включает в себя несколько ключевых принципов проектирования. Во-первых, системы должны быть достаточно прозрачными, чтобы пользователи могли понять, как ИИ пришел к своим выводам. Во-вторых, технология должна быть разработана так, чтобы сигнализировать о неопределенности и полагаться на человеческий опыт, когда решения выходят за пределы его зоны доверия. В-третьих, рабочий процесс должен плавно интегрироваться с человеческими процессами, а не заставлять людей адаптироваться к жестким алгоритмическим результатам. Такой выбор конструкции требует иных инженерных приоритетов, чем системы, оптимизированные исключительно для автоматизации и эффективности.
Лаборатория мыслительных машин под руководством Мурати представляет собой экспериментальную площадку для изучения этих моделей сотрудничества с использованием искусственного интеллекта на практике. Организация не просто теоретизирует о лучшем развитии ИИ; он активно создает системы, демонстрирующие, как эти принципы могут быть реализованы в больших масштабах. Такой практический подход к исследованиям и разработкам позволяет Мурати и ее команде выявлять практические проблемы и быстро находить решения.
Отраслевые обозреватели отмечают, что позиция Мурати имеет значительный вес, учитывая ее предыдущую должность и достижения. Будучи бывшим техническим директором OpenAI, она сыграла важную роль в формировании направления одной из самых влиятельных исследовательских организаций в области искусственного интеллекта в мире. Ее уход с этой должности, чтобы сосредоточиться на более человекоориентированном подходе к разработке ИИ, свидетельствует о значимом сдвиге в том, как по крайней мере некоторые секторы сообщества ИИ думают о будущем работы и автоматизации.
Более широкий контекст работы Мурати включает в себя все больше свидетельств того, что рабочие места выигрывают от сотрудничества человека и искусственного интеллекта, а не от чистой автоматизации. Исследования показали, что гибридные команды, сочетающие людей с инструментами искусственного интеллекта, часто превосходят как человеческие команды, так и полностью автоматизированные системы при выполнении сложных, тонких задач. Это исследование обеспечивает эмпирическую поддержку того интегрированного подхода, который Мурати отстаивает и строит в Лаборатории мыслительных машин.
Мурати также обращается к неправильному представлению о том, что пропаганда участия человека в системах искусственного интеллекта представляет собой технологический шаг назад или провал амбиций. Напротив, она утверждает, что создание систем искусственного интеллекта, которые могут эффективно сотрудничать с людьми, возможно, является более сложной инженерной задачей, чем создание полностью автономных систем. Технические препятствия, связанные с обеспечением прозрачности, обеспечением понятных человеку объяснений и созданием интуитивно понятных интерфейсов для сложных возможностей искусственного интеллекта, требуют значительных инноваций и опыта.
Разговор с WIRED также затронул более широкие тенденции в отрасли и ее точку зрения на то, как должна развиваться экосистема искусственного интеллекта. Мурати выразил обеспокоенность по поводу менталитета гонки до самого дна, когда компании конкурируют в первую очередь за возможности автоматизации, не учитывая должным образом человеческие последствия. Она выступает за более целенаправленный подход, при котором преимущества развития ИИ будут распространяться более широко, а работники будут расширены, а не вытеснены технологическими изменениями.
Проблемы автоматизации рабочих мест становятся все более актуальными, поскольку за последние несколько лет возможности искусственного интеллекта быстро развивались. Экономисты труда и политики решают вопросы о том, как справиться с потенциальной дестабилизацией рабочей силы. Акцент Мурати на том, чтобы держать людей в курсе событий, предлагает один потенциальный ответ на эти проблемы, хотя он требует поддержки со стороны многих заинтересованных сторон, включая корпоративное руководство, политиков, рабочих и технологов, создающих эти системы.
В перспективе работа, проводимая в Лаборатории мыслительных машин, может послужить моделью того, как другие организации подходят к разработке и внедрению ИИ. Если лаборатория сможет продемонстрировать, что системы искусственного интеллекта, ориентированные на человека, не только предпочтительны с этической точки зрения, но также коммерчески жизнеспособны и технически сложны, это может повлиять на то, как целые отрасли думают об интеграции искусственного интеллекта в свою деятельность. Этот результат станет существенным отходом от текущих тенденций во многих секторах, где автоматизация сама по себе остается основным драйвером инвестиций в искусственный интеллект.
Видение Мурати будущего работы с искусственным интеллектом в конечном счете оптимистично, но основано на реалистичном признании предстоящих задач. Она признает, что создание по-настоящему совместных систем требует устойчивой приверженности иному набору ценностей и приоритетов, чем те, которые лежат в основе нынешних разработок ИИ. Тем не менее, ее опыт, авторитет и стратегическая направленность деятельности Лаборатории мыслительных машин позволяют предположить, что этот альтернативный подход к искусственному интеллекту не просто идеалистичен, но потенциально способен изменить то, как мы интегрируем ИИ в общество и на рабочее место.
Источник: Wired


