Разработка открытого кода искусственного интеллекта (ИИ) значительно ускорилась в последние месяцы. В условиях, когда компании, такие как OpenAI и Google, вкладывают миллиарды в создание всё более мощных ИИ-систем, открытые модели добились значительных успехов. Однако, несмотря на мнимый успех, открывается основная слабость: многие из этих так называемых систем с открытым исходным кодом на самом деле открыты лишь частично.
Вот яркий пример — Llama от компании Meta. Хотя "веса", определяющие, как модель реагирует на запросы, раскрыты, основные тренировочные данные остаются скрытыми. Это позволяет разработчикам настраивать модель, но не хватает прозрачности для создания модели с нуля.
Here's the translation of the heading to Russian:
Для разработчиков такая ограниченная открытость всё же имеет свои преимущества.
В ответ на это Open Source Initiative, которая более 20 лет назад установила определение для программного обеспечения с открытым исходным кодом, представила практически окончательное определение для Open-Source-ИИ. Это определение требует не только публикации «весов», но и предоставления достаточной информации о данных для обучения и исходном коде, чтобы модель можно было воспроизвести.
Эти действия уже ведут к усилению сегментации в мире ИИ. Многие компании более осторожно подходят к своей терминологии, чтобы избежать правовых споров. Поэтому Мистраль называет свою модель Nemo «открытые веса» и сознательно избегает термина «открытый исходный код».
Хотя частично открытые системы становятся популярными, появляются также полностью открытые модели, такие как языковая модель Olmo от Института искусственного интеллекта Аллена. Однако, останется ли их влияние на мир ИИ таким же, как влияние программного обеспечения с открытым исходным кодом на технологическую отрасль, еще предстоит выяснить.
Для прорыва в области открытых моделей ИИ необходимы две вещи.
Во-вторых, сторонники открытого ИИ должны представить более убедительные аргументы в пользу его безопасности.
Пока потенциальные риски и преимущества открытого предоставления ИИ-технологий не будут тщательнее изучены, опасения будут сохраняться.
