OpenAI закрывает приложение Sora для искусственного интеллекта из-за опасений по поводу дипфейков

OpenAI, исследовательская компания в области искусственного интеллекта, стоящая за популярным чат-ботом ChatGPT, решила закрыть свое видеоприложение Sora, которое позволяло пользователям создавать видеоролики, созданные с помощью искусственного интеллекта. Этот шаг происходит на фоне растущей обеспокоенности по поводу возможности неправильного использования технологии приложения для создания deepfake.

В своем заявлении OpenAI заявила, что «прощается с приложением Sora», и пообещала в ближайшее время поделиться дополнительной информацией о том, как пользователи могут сохранить контент, созданный ими на платформе. Приложение, бета-версия которого была запущена в марте 2023 года, быстро стало вирусным благодаря своей способности создавать очень реалистичные видео людей, говорящих и двигающихся, на основе всего лишь нескольких секунд входного материала.

Хотя технология, лежащая в основе Sora, была широко признана впечатляющей, она также вызвала тревогу среди политиков, исследователей и широкой общественности по поводу возможности злоупотреблений. Видео дипфейков, в которых ИИ используется для наложения лица или голоса человека на другого человека, все чаще используются в злонамеренных целях, таких как политическая дезинформация и порнография без согласия.

OpenAI позиционирует себя как лидер в ответственной разработке ИИ, и решение о закрытии Sora предполагает, что компания серьезно относится к этим опасениям. В своем заявлении компания заявила, что продолжит изучать способы развития видеотехнологий искусственного интеллекта «вдумчивым и взвешенным образом».

Закрытие Sora является последним примером проблем и компромиссов, присущих быстрому развитию технологий искусственного интеллекта. Хотя эти инструменты обладают огромным потенциалом для повышения креативности, производительности и понимания, они также создают значительные риски, которыми необходимо тщательно управлять. Поскольку индустрия искусственного интеллекта продолжает развиваться, за такими компаниями, как OpenAI, будут внимательно следить, чтобы увидеть, как они сочетают инновации с ответственной разработкой и внедрением.