Вышел OpenAI o1

Мы разработали новую серию моделей ИИ, предназначенных для того, чтобы тратить больше времени на размышления, прежде чем отвечать. Они могут рассуждать о сложных задачах и решать более сложные проблемы, чем предыдущие модели в науке, кодировании и математике.

Сегодня мы выпускаем первую из этой серии в ChatGPT и нашем API. Это предварительный просмотр, и мы ожидаем регулярных обновлений и улучшений. Наряду с этим выпуском мы также включаем оценки для следующего обновления, которое в настоящее время находится в разработке.

Мы обучили эти модели тратить больше времени на обдумывание проблем, прежде чем они ответят, как это делает человек. Благодаря обучению они учатся совершенствовать свой мыслительный процесс, пробовать разные стратегии и распознавать свои ошибки.

В наших тестах следующее обновление модели работает так же, как аспиранты, на сложных контрольных задачах по физике, химии и биологии. Мы также обнаружили, что оно преуспевает в математике и кодировании. На отборочном экзамене Международной математической олимпиады (IMO) GPT-4o правильно решил только 13% задач, в то время как модель рассуждений набрала 83%. Их способности к кодированию оценивались на соревнованиях и достигли 89-го процентиля в соревнованиях Codeforces. Подробнее об этом можно прочитать в нашем посте по техническим исследованиям .

Как ранняя модель, она пока не имеет многих функций, которые делают ChatGPT полезным, например, просмотр веб-страниц для получения информации и загрузка файлов и изображений. Для многих распространенных случаев GPT-4o станет более способным в ближайшем будущем.

Но для сложных задач рассуждения это значительный прогресс и представляет собой новый уровень возможностей ИИ. Учитывая это, мы сбрасываем счетчик обратно на 1 и называем эту серию OpenAI o1.

В рамках разработки этих новых моделей мы придумали новый подход к обучению безопасности, который использует их способности к рассуждению, чтобы заставить их придерживаться правил безопасности и выравнивания. Способность рассуждать о наших правилах безопасности в контексте позволяет применять их более эффективно.

Один из способов измерения безопасности — это проверка того, насколько хорошо наша модель продолжает следовать своим правилам безопасности, если пользователь пытается обойти их (это называется «джейлбрейк»). В одном из наших самых сложных тестов на джейлбрейк GPT-4o набрал 22 (по шкале от 0 до 100), а наша модель o1-preview набрала 84. Подробнее об этом можно прочитать в системной карточке и в нашем исследовательском посте .

Чтобы соответствовать новым возможностям этих моделей, мы усилили нашу работу по безопасности, внутреннее управление и сотрудничество с федеральным правительством. Это включает в себя тщательное тестирование и оценку с использованием нашей Рамочной основы готовности(открывается в новом окне), лучшая в своем классе команда экспертов и процессы обзора на уровне совета директоров, в том числе нашим Комитетом по безопасности и защите.

Для продвижения нашей приверженности безопасности ИИ мы недавно оформили соглашения с Институтами безопасности ИИ США и Великобритании. Мы начали реализовывать эти соглашения, включая предоставление институтам раннего доступа к исследовательской версии этой модели. Это был важный первый шаг в нашем партнерстве, помогающий наладить процесс исследования, оценки и тестирования будущих моделей до и после их публичного выпуска.

Эти расширенные возможности рассуждения могут быть особенно полезны, если вы решаете сложные проблемы в науке, кодировании, математике и подобных областях. Например, o1 может использоваться исследователями в области здравоохранения для аннотирования данных секвенирования клеток, физиками для генерации сложных математических формул, необходимых для квантовой оптики, и разработчиками во всех областях для создания и выполнения многоэтапных рабочих процессов.