Крупные техкомпании подписали письмо в поддержку открытых весов ИИ
Ключевые факты
- 1 Ряд крупных техкомпаний подписали письмо в поддержку открытых весов ИИ.
- 2 Открытые веса делают ИИ более доступным, адаптируемым и широко распространенным.
- 3 Открытые модели способствуют кибербезопасности, повышая прозрачность и позволяя выявлять уязвимости.
- 4 OpenAI и Anthropic не подписали данное письмо.
- 5 Критики сомневаются в безопасности открытых моделей и корректности сравнения с открытым кодом.
- 6 Существует опасение, что открытый доступ к мощным ИИ может привести к «войне бюджетов» в киберзащите.
- 7 Государственное регулирование тормозит распространение ИИ, а письмо не затрагивает вопрос Китая.
Совместное письмо «Открытые веса и лидерство Америки в ИИ», подписанное такими компаниями как Google, IBM, Meta, AMD, Intel, Hugging Face и Stability AI, подчеркивает важность моделей с открытыми весами для развития технологии искусственного интеллекта. Авторы письма утверждают, что такие модели делают передовые технологии ИИ более доступными, адаптируемыми и широко распространенными, позволяя стартапам, бизнесу, университетам и госучреждениям создавать решения без необходимости обучать модели с нуля или платить высокие тарифы за использование флагманских моделей. Письмо также акцентирует внимание на роли открытых моделей в кибербезопасности, утверждая, что они расширяют возможности защиты, повышают прозрачность и позволяют обнаруживать и устранять уязвимости совместными усилиями. Открытые веса способствуют изучению поведения моделей, выявлению уязвимостей и разработке мер защиты. Проблемы, связанные с незаконным извлечением выгоды из закрытых моделей, предлагается решать с помощью правовых и коммерческих механизмов, а не путем масштабных ограничений на технологии. Однако, существуют и критические аргументы. Сравнение открытых весов с открытым кодом может быть некорректным, так как модели не становятся безопаснее автоматически, и понимание их внутреннего устройства остается сложной задачей. Отмечается, что формулировки письма не исключают возможность запрета на открытый выпуск моделей, превышающих определенный порог возможностей. Также высказываются опасения, что повсеместный доступ к передовым моделям для взлома систем может привести к «войне бюджетов» между защитой и нападением, где государство будет иметь наибольшее преимущество. Кроме того, подчеркивается, что государственные ограничения замедляют диффузию ИИ в общество, и письмо не затрагивает вопрос регулирования ИИ в контексте Китая.