Сандерс призывает к глобальному надзору за искусственным интеллектом, прежде чем технологические спирали
Берни Сандерс созывает панельную дискуссию на Капитолийском холме с китайскими учеными, чтобы обсудить острую необходимость международного регулирования ИИ и защиты от социальных рисков.
Сенатор США Берни Сандерс на этой неделе созвал важную групповую дискуссию на Капитолийском холме, собрав выдающихся китайских ученых и политиков для решения одной из самых острых технологических проблем нашей эпохи: необходимости международного регулирования ИИ. Собрание подчеркнуло растущую обеспокоенность среди законодателей и экспертов по поводу того, что развитие искусственного интеллекта ускоряется беспрецедентными темпами, опережая нормативную базу, призванную защитить общество от потенциального вреда.
В ходе дискуссии в среду Сандерс подчеркнул, что глобальное сотрудничество в области управления ИИ больше не является необязательным, а необходимым для обеспечения того, чтобы эта преобразующая технология приносила пользу человечеству, а не создавала непредвиденные риски. Сенатор, который долгое время скептически относился к беспрепятственному технологическому прогрессу без надлежащих соображений безопасности, предупредил, что без скоординированных международных усилий искусственный интеллект может превратиться в «беглый поезд», который правительства потеряют способность контролировать или руководить ответственно. Его послание нашло отклик у международных участников, отражая растущее согласие в том, что к регулированию ИИ не может подходить односторонне ни одна страна или регион.
Особого внимания заслуживает состав самой комиссии, поскольку в ней приняли участие представители США и Китая — двух стран, ведущих глобальную гонку развития ИИ. Такой совместный подход свидетельствует о признании того, что значимые защиты ИИ требуют диалога и координации между конкурирующими технологическими державами. Китайские ученые, участвовавшие в обсуждении, представили ценную точку зрения на то, как различные подходы к регулированию могут влиять на инновации, одновременно защищая общественные интересы. Это хрупкий баланс, которого регуляторы во всем мире пытаются достичь.
Сандерс позиционирует себя как один из наиболее ярых скептиков в отношении нерегулируемого развития искусственного интеллекта, отличая свою точку зрения от тех, кто в технологической отрасли часто выступает за более мягкое регулирование. В то время как стартапы и технологические гиганты Кремниевой долины продолжают инвестировать миллиарды в исследования и разработки в области искусственного интеллекта, делая ставку на быстрое масштабирование и коммерциализацию, Сандерс утверждает, что этот конкурентный пыл должен быть умерен соображениями общественной безопасности и общественного благосостояния. Выступления сенатора за усиление механизмов надзора за искусственным интеллектом отражают обеспокоенность многих ученых, специалистов по этике и политике, которые обеспокоены алгоритмической предвзятостью, увольнением рабочих мест, возможностями наблюдения и потенциальным неправомерным использованием все более мощных систем искусственного интеллекта.
Пекин также стал крупным центром инноваций в области искусственного интеллекта: китайские технологические компании и исследовательские институты жестко конкурируют с американскими коллегами за разработку передовых возможностей искусственного интеллекта. Присутствие ведущих китайских ученых на заседании Капитолийского холма демонстрирует, что опасения по поводу ответственного развития ИИ выходят за геополитические границы. Обе страны сталкиваются с одинаковыми проблемами, пытаясь сбалансировать экономические и технологические выгоды от развития ИИ с необходимостью предотвращения потенциального вреда и обеспечения справедливого доступа к преимуществам ИИ для всего общества.
Совещание Сандерса выбрано в тот момент, когда дебаты о регулировании ИИ продолжают обостряться в законодательных органах по всему миру. Европейский Союз уже разработал Закон об искусственном интеллекте, который представляет собой первую комплексную нормативную базу для систем искусственного интеллекта. Соединенные Штаты, напротив, придерживаются более фрагментированного подхода: различные агентства предлагают разные пути регулирования. Стремление Сандерса к международному сотрудничеству предполагает, что он считает, что скоординированные глобальные стандарты будут более эффективными, чем разрозненные национальные правила, которые могут создать противоречивые требования к разработчикам и развертывателям ИИ.
Среди конкретных рисков, которые Сандерс и другие участники дискуссии, вероятно, обсуждали, можно назвать возможность того, что системы искусственного интеллекта будут закреплять или усиливать существующие предубеждения в сфере уголовного правосудия, найма, кредитования и здравоохранения. Кроме того, существуют опасения по поводу воздействия на окружающую среду обучения массивных моделей ИИ, концентрации власти ИИ среди нескольких крупных компаний, а также возможности использования ИИ в качестве оружия или для массового наблюдения. Эти проблемы выходят за рамки границ и поэтому требуют решений, предполагающих сотрудничество между странами, а не конкуренцию, которая может снизить стандарты безопасности в погоне за преимуществами в скорости выхода на рынок.
Формат международной группы также признал, что стандарты безопасности ИИ, установленные одной страной, могут привести либо к полезному согласованию, либо к проблемной фрагментации в зависимости от того, как они разработаны. Если крупные страны, развивающие ИИ, установят несовместимые нормативные требования, компании могут столкнуться с серьезными проблемами соблюдения требований или, что еще хуже, могут просто переехать в юрисдикции с наименее строгим надзором. Этот регуляторный арбитраж может подорвать всю цель инициатив по безопасности ИИ. Объединив китайских ученых и американских политиков, Сандерс помог наладить диалог, необходимый для предотвращения такого исхода.
Характеристика Сандерса развития ИИ как «поезда-бегущего поезда» отражает мнение многих, кто наблюдает за быстрым развитием больших языковых моделей, генеративных систем ИИ и других прорывных технологий. Темпы развития искренне удивили даже многих экспертов в этой области: возможности появляются быстрее, чем предполагалось во многих прогнозах. Такое ускорение делает необходимость упреждающего регулирования более актуальной, поскольку ожидание проявления проблем до принятия руководящих принципов может привести к тому, что вредоносные приложения укоренятся до того, как станет возможным исправление.
В ходе панельной дискуссии, вероятно, обсуждались различные подходы к моделям управления ИИ, включая дискуссии о том, должно ли регулирование быть сосредоточено на конкретных приложениях, а не на общих принципах, должен ли надзор осуществляться правительством или промышленностью и как стимулировать инновации, сохраняя при этом безопасность. Разные демократические страны придерживаются разной философии по этим вопросам, а мнение Китая еще больше усложняет ситуацию, поскольку их модель управления существенно отличается от западных демократических подходов. Тем не менее, найти общий язык по фундаментальным принципам безопасности остается возможным и желательным.
Попытка Сандерса организовать эту дискуссию на высоком уровне демонстрирует его убежденность в том, что управление искусственным интеллектом нельзя полностью оставлять на усмотрение рыночных сил или корпоративного саморегулирования. Сенатор был последователен в своем убеждении, что крупные технологические сдвиги, влияющие на общественное благосостояние, требуют демократического контроля и участия общественности, а не только решений, принимаемых в залах заседаний корпораций. Его пропаганда международного сотрудничества расширяет традицию призывов к глобальным решениям глобальных проблем, будь то борьба с изменением климата, реагированием на пандемию или, теперь, с развитием искусственного интеллекта.
Последствия этой дискуссии на Капитолийском холме выходят за рамки непосредственных политических дискуссий, они сигнализируют мировому сообществу ИИ, что политики в основных демократических странах серьезно относятся к установлению барьеров вокруг развития искусственного интеллекта. Остается неясным, удастся ли в конечном итоге таким усилиям создать последовательные международные рамки, поскольку политические, экономические интересы и интересы национальной безопасности неизбежно осложнят переговоры. Однако готовность участвовать в диалоге, несмотря на геополитические разногласия, представляет собой важный шаг на пути к решению того, что многие считают одной из определяющих технологических проблем предстоящих десятилетий.
