«Закон об ИИ» с последними поправками, если будет принят, запретит американским компаниям, вроде OpenAI, Amazon, Google и IBM, предоставлять доступ через API к генеративным моделям ИИ. Закон приведёт к санкциям против разработчиков ПО с открытым исходным кодом и дистрибьюторов ПО, таких как GitHub, если генеративные модели ИИ станут доступны в Европе без предварительного прохождения обширного и дорогостоящего лицензирования. Предусмотрены огромные штрафы.
Хотя закон предусматривает исключения для традиционных моделей машинного обучения, он прямо запрещает использование генеративных систем с открытым исходным кодом без лицензирования. Если закон будет принят, правоприменение выйдет из-под контроля государств-членов ЕС. В соответствии с «Законом об ИИ», имеющем экстерриториальную юрисдикцию, третьи стороны могут предъявлять иски национальным правительствам для наложения штрафов, а европейское правительство может быть принуждено третьими сторонами к конфликту с американскими разработчиками и бизнесом.
Очень широкая юрисдикция закона включает в том числе «поставщиков систем ИИ, которые созданы или находятся в третьей стране, где закон государства-члена ЕС применяется в силу международного публичного права, либо результат, производимый системой, предназначен для использоваться в ЕС». Разработчики и распространители ПО несут юридическую ответственность. Для ПО с открытым исходным кодом ответственность переходит на компанию, использующую это ПО или выводящую его на рынок.
Разработчики должны регистрировать как свой проект ИИ или базовую модель, так и их предполагаемую функциональность. При превышении заявленной функциональности, лицензия может быть отозвана. Это станет проблемой для многих проектов с открытым исходным кодом. Регистрация также потребует раскрытия используемых источников данных, вычислительных ресурсов, времени на обучение, контрольных показателей производительности и Red Teaming — подготовку системы к отражению кибератак.
Потребуется дорогостоящее тестирование рисков. Список рисков весьма расплывчат и включает потенциальные проблемы для окружающей среды, демократии и верховенства закона. Судя по всему, государства ЕС будут проводить оценку рисков в зависимости от размера компании-заявителя, причём сами тесты ещё только предстоит создать. «Закон об ИИ» также требует послерелизного контроля системы (предположительно со стороны правительства). Если модели продемонстрируют неожиданные способности, потребуется повторная сертификация.
Использование API, позволяющего реализовывать сервисы на базе ИИ, не запуская её на собственном оборудовании, может быть предельно затруднено в ЕС. В соответствии с новыми правилами, если при использовании API выясняются новые возможности, их потребуется сертифицировать, а поставщик обязан предоставить третьей стороне конфиденциальную техническую информацию, чтобы завершить процесс лицензирования. Это положение даёт возможность преступнику сделать мошенническое ПО доступным в Европе, что приведёт к необходимости его лицензирования и раскрытию информации.
Если американский разработчик ПО с открытым исходным кодом разместит модель или код с использованием API на GitHub и этот код станет доступен в ЕС, разработчик будет нести ответственность за выпуск нелицензированной модели. Кроме того, GitHub будет нести ответственность за размещение такой модели. В настоящее время многие американские облачные провайдеры не ограничивают доступ к моделям API. Любой разработчик может получить доступ к новейшим технологиям по разумной цене. Ограничения нового закона делают использование API настолько сложным и дорогостоящим, что оно станет доступно только корпоративным клиентам.
Проекты с открытым исходным кодом используют для обучения моделей метод LoRA — медленное, постепенное и недорогое добавление новой информации и возможностей, поскольку они не могут позволить себе компьютерную инфраструктуру стоимостью в миллиард долларов. Таким проектам потребуется проходить повторную сертификацию каждый раз после использования метода LoRA для расширения модели.
«Закон об ИИ» также предусматривает лицензирование развёртывания — разработчики, использующие системы ИИ, должны пройти строгую проверку разрешений перед запуском. Малые предприятия ЕС освобождены от этого требования.
Штрафы за несоблюдение «Закона об ИИ» составят от 2 % до 4 % глобального валового дохода компании. Для физических лиц размер штрафа может достичь €20 млн. При этом европейским малым и средним предприятиям такие штрафы не грозят. А при использовании ИИ для исследований и разработки экологически чистых энергетических систем или производства чистой энергии соблюдение нового закона вообще не потребуется.
Новый «Закон об ИИ» противоречит требованиям американского регулятора, а действия, предусмотренные этим законом, вызовут серьёзные антимонопольные проблемы для американских компаний. Высокие затраты на обучение модели ограничивают доступность ИИ для небольших компаний и частных лиц. Федеральная торговая комиссия США хочет не допустить чтобы крупная компания использовала своё положение, чтобы получить большую часть прибыли за счёт более мелких партнёров.
«Закон об ИИ» может создать гораздо больше проблем, чем кажется на первый взгляд. Разработчики ПО, особенно решений с открытым исходным кодом, вряд ли хорошо отреагируют на запреты и требования дорогостоящей сертификации. Трудно представить, что произойдёт, если GitHub и другие подобные платформы решат, что с ЕС слишком сложно иметь дело, и закроют доступ. Это может привести к последствиям, которые не были тщательно продуманы. К счастью, пока закон не принят и в нём могут появиться значительные изменения.
