Как Apple почти запретила приложение искусственного интеллекта Илона Маска из-за скандала с Deepfake

Apple тихо пригрозила удалить приложение с искусственным интеллектом Grok Илона Маска из своего App Store в январе из-за неспособности обуздать волну несогласованного сексуального дипфейка, наводнившего X, согласно NBC News. Это была приглушенная демонстрация силы со стороны одного из самых влиятельных стражей технологий, организованная за закрытыми дверями, в то время как кризис раздевания разворачивался на виду у всех и критика по поводу трусости Apple усилилась.

В письме получено агентством NBC News. Компания Apple сообщила сенаторам США, что "связалась с командами, стоящими за X и Компания Grok получила жалобы и увидела освещение скандала в новостях" и потребовала от разработчиков "разработать план по улучшению модерации контента".

Это открытие проливает свет на закулисные битвы между техническими гигантами и их платформами на базе искусственного интеллекта, которые пытаются бороться с быстрым распространением дипфейков и другого контента, несанкционированного согласия. Хотя Apple публично заняла решительную позицию против дезинформации и нарушений конфиденциальности, ее частные угрозы в адрес Грока свидетельствуют о том, что компания готова оказать свое влияние, чтобы заставить действовать, даже если общественное внимание не направлено непосредственно на них.

Кризис дипфейков на X стал серьезной головной болью для Илона Маск и его команда, а также поток контента сексуального характера без согласия с участием знаменитостей и общественных деятелей. Несмотря на обещания более строгой модерации контента и инструментов для борьбы с дипфейками, платформа с трудом справляется с потоком вредоносной активности.

Грок, ИИ-помощник Маска, встроенный в платформу X, оказался в центре споров, поскольку его возможности глубокого обучения рассматривались как способствующие созданию и распространению таких фейков. дипфейки. Угроза Apple удалить приложение из App Store была явным предупредительным сигналом, сигнализирующим о том, что даже самые влиятельные игроки в сфере технологий не застрахованы от давления из-за сбоев модерации контента.

Этот эпизод подчеркивает растущую важность разработки этического ИИ и необходимость всеобъемлющего регулирования для регулирования использования генеративного ИИ. Поскольку deepfake и другая дезинформация, основанная на искусственном интеллекте, продолжают распространяться, битва между технологическими компаниями, законодателями и гражданским обществом только начинается.

Двигаясь вперед, Apple, Илон Маск и другие лидеры отрасли будут внимательно следить за тем, как они решают эти сложные проблемы. Ставки высоки не только для технологического сектора, но и для конфиденциальности и безопасности отдельных лиц и общества в целом.