В обновленном соглашении между Microsoft и OpenAI появилась важная деталь: теперь момент достижения искусственного общего интеллекта (AGI) будет определяться специальной комиссией экспертов. Это решение отражает растущую осознанность индустрии в вопросах безопасности ИИ и стремление к более прозрачным стандартам.
Кто будет решать, что такое AGI
Согласно новым условиям партнерства, создается независимая комиссия из пяти технических экспертов, которая получит право определять, когда OpenAI достигнет ключевого рубежа — создания AGI. Три члена комиссии будут назначены OpenAI, два — Microsoft.
Этот шаг особенно важен, поскольку определение AGI остается одной из самых спорных тем в индустрии. Разные исследователи и компании используют различные критерии для оценки уровня интеллекта систем искусственного интеллекта.
Почему это важно для индустрии
Решение о создании экспертной комиссии появилось на фоне растущего внимания регуляторов к технологиям ИИ. Microsoft явно стремится закрепить свои позиции в случае прорыва OpenAI в создании AGI, обеспечивая себе доступ к технологиям через механизм лицензирования.
В соглашении предусмотрено, что если комиссия признает достижение AGI, Microsoft получит неисключительную лицензию на все технологии, необходимые для запуска и поддержки моделей AGI OpenAI.
Создание формальной комиссии для определения AGI— это попытка превратить философский спор в бюрократический процесс. Интересно, будут ли эти пять экспертов спорить о том, что такое сознание, или просто проверять бенчмарки? В любом случае, это показывает, насколько серьезно гиганты индустрии относятся к потенциальному прорыву — они готовят юридические рамки для того, что пока существует только в научной фантастике.
Что изменится для Microsoft
Обновленное соглашение также дает Microsoft право голоса при назначении генерального директора OpenAI — позиция, которая стала особенно важной после драматических событий прошлого года с временным увольнением Сэма Альтмана.
Кроме того, Microsoft получает место в комитете по безопасности OpenAI, что усиливает ее влияние на процессы принятия решений в компании.
Контекст и последствия
Это соглашение отражает эволюцию отношений между двумя компаниями. Microsoft уже инвестировала более 13 миллиардов долларов в OpenAI и глубоко интегрировала технологии компании в свои продукты, включая Copilot.
Создание формального механизма для определения AGI может стать прецедентом для всей индустрии. Другие компании, вероятно, последуют этому примеру, разрабатывая собственные протоколы для оценки прогресса в разработке продвинутых систем ИИ.
По материалам Ars Technica