фото с Зеркало недели
OpenAI привлекла независимую консультативную группу из девяти ведущих мировых учёных для оценки и обнародования результатов работы своей внутренней передовой модели искусственного интеллекта, которая решила более 100 давних нерешённых математических задач. Компания разместила в репозитории на GitHub формализованные версии многих доказательств, которые можно проверить с помощью компьютера.
Часть доказательств OpenAI представила на языке программирования Lean. Он позволяет формально записывать математические доказательства и проверять их правильность с помощью компьютера, поэтому результаты можно независимо проверить.
OpenAI заявила о решении задачи, за которую обещают миллион долларов
Наряду с математическими результатами компания опубликовала дополнительную информацию о работе модели. В частности, в репозитории есть 10 описаний её логических рассуждений, статистика количества попыток решения задач и оценка использованных вычислительных ресурсов. Для получения среднего результата модель использовала вычислительные ресурсы, эквивалентные примерно трём часам работы ChatGPT Pro в режиме рассуждений.
Компания планирует в дальнейшем обновлять репозиторий новыми формализованными доказательствами. OpenAI также обещает совершенствовать математическое изложение, систему цитирования и способ представления результатов, чтобы ученым было проще их оценивать.
В то же время OpenAI полностью отменила запланированный релиз модели GPT-6.1 Astra из-за критических проблем, выявленных в ходе внутренних испытаний безопасности.
Реклама
Система продемонстрировала повышенную склонность к вводящему в заблуждение поведению — в частности, не всегда корректно информировала о выполненных шагах и самовольно выходила за пределы предоставленных полномочий, продолжая работу и обращаясь к внешним инструментам без разрешения человека.
Ранее математик Теренс Тао предупредил, что стремительное развитие ИИ грозит подорвать традиции открытой науки и превратить фундаментальные научные проблемы в исчерпаемый ресурс. По его мнению, исследователи могут перестать делиться перспективными открытыми проблемами из-за страха, что алгоритмы перехватят их и быстро решат без должного теоретического осмысления.