фото с Зеркало недели
Системы искусственного интеллекта всё чаще самостоятельно определяют, как выполнять поставленные перед ними задачи, без подробных инструкций от человека. Американский исследователь и доцент Школы бизнеса Уортон Пенсильванского университета Итан Моллик считает, что это может изменить представления о том, как люди будут управлять такими системами.
По его наблюдениям, современные агенты уже не нуждаются в постоянном предоставлении контекста или пошагового плана: они могут самостоятельно находить нужную информацию, разрабатывать последовательность действий и даже привлекать других агентов к работе. Моллик называет это проявлением «Горького урока» (Bitter Lesson) — принципа, согласно которому сложные человеческие правила постепенно заменяются возможностями более мощных систем машинного обучения.
Anthropic предупреждает об угрозе кибербезопасности: китайский ИИ может самостоятельно взламывать системы
Агенты не нуждаются в подробных инструкциях
Моллик отмечает, что раньше считал управление ИИ-агентами сложным процессом, который потребует от людей тщательного проектирования рабочих процессов. Однако новые модели всё лучше самостоятельно планируют необходимые шаги, поэтому ценность детального человеческого планирования снижается.
Одним из проявлений этой тенденции Моллик называет персональных ИИ-агентов. В настоящее время лидером в App Store, по его словам, является Muse от Meta — приложение, которое позиционируется как персональный агент, способный выполнять работу вместо пользователя. OpenAI недавно выпустила конкурирующий инструмент Dots, а аналогичные функции также выполняют Grok Bot от SpaceX, Instinct и Gemini Spark.
Все эти системы, по словам Моллика, вдохновлены OpenClaw и подобными ему системами, которые он называет «Clawlikes». Их особенность заключается в том, что ИИ-агент получает доступ к компьютеру и учетным записям пользователя, в частности к электронной почте и финансовым документам. Он может анализировать эти данные и реагировать на них в режиме реального времени, даже когда человек непосредственно не следит за его работой.
Общение с такими агентами также отличается от обычного взаимодействия с чат-ботом. Пользователь может писать им через Slack, SMS или WhatsApp, а агент способен сам инициировать разговор, причём с некоторыми системами, в частности Dots, можно даже созвониться.
Действительно ли ИИ может уничтожить человечество: что говорят эксперты
По словам Моллика, один из его агентов самостоятельно обнаружил ошибку в письме в местную администрацию и подготовил исправление. В другом случае Muse заметил, что у него заканчивается срок действия авиационного ваучера, и по его просьбе связался с авиакомпанией American по поводу его продления.
«Рои» из тысяч агентов
Наибольшее впечатление на исследователя произвело не то, что один агент может выполнять несколько задач, а возможность одновременной работы тысяч таких систем. В качестве примера он приводит систему, которую OpenAI называет «роем» — группу агентов, работающих на основе усовершенствованной модели.
По словам Моллика, во время работы над уравнениями Навье-Стокса агенты отправили друг другу около 2,7 миллиона сообщений и достигли результата за 88 часов. Координация этой работы была относительно простой: OpenAI определяла цели, несколько групп агентов работали параллельно, модель Codex передавала между ними лучшие идеи, а внутри групп агенты самостоятельно обменивались информацией.
Моллик сравнивает это с традиционным управлением большой командой. Человеку было бы сложно определять важность миллионов сообщений, координировать тысячи сотрудников и постоянно объяснять им, что делать, тогда как «рой» агентов смог организовать этот процесс самостоятельно.
Руководитель Anthropic призвал замедлить темпы развития ИИ: Маск и Альтман поддержали его
Исследователь также описал собственный эксперимент с Codex. Когда он попросил модель предложить тему для следующего поста, оценить идеи и выбрать одну из них, система сначала привлекла трех агентов. После того как Моллик определил задачи трёх команд — генераторов идей, исследователей и фокус-группы читателей — количество агентов выросло до 13, и они уже самостоятельно организовывали работу.
Почему агентам проще координировать работу
Исследователь объясняет это тем, что значительная часть традиционного менеджмента возникла из-за особенностей человеческого поведения. У людей есть собственные цели, они могут неохотно делиться информацией, стремиться защищать собственную сферу влияния, а количество людей, которыми может эффективно управлять один менеджер, ограничено.
Агенты лишены большинства таких проблем: они не стремятся к карьерному росту, не пытаются защищать собственную «территорию» и не проводят совещаний. В то же время Моллик подчеркивает, что проблемы могут возникать уже в отношениях между самими агентами и людьми, которые ими управляют.
Федеральная торговая комиссия США приступила к расследованию в отношении Anthropic и OpenAI
Исследователь упоминает и о случае с платформой Hugging Face, когда агенты самоорганизовались и начали взаимодействовать непредсказуемым образом. Это, по его мнению, показывает, что автономность таких систем может создавать новые риски, даже если у них нет типичных проблем человеческих организаций.
Люди по-прежнему определяют цели
Моллик предупреждает, что способность агентов к самоорганизации не означает, что они уже могут выполнять любую работу. ИИ по-прежнему слишком ограничен, чтобы заменить значительные объемы человеческого труда. Исследователь также не знает, насколько хорошо такие системы справятся с длительной и рутинной работой.
OpenAI приостановила обучение новейших моделей искусственного интеллекта из-за непредсказуемого поведения ИИ-агентов
Кроме того, инцидент с Hugging Face показывает, что самоорганизующиеся системы могут развиваться в неожиданных направлениях. Поэтому Моллик больше не считает организацию агентов самой сложной задачей, но подчеркивает необходимость направлять их работу.
Ранее исследователь предполагал, что компаниям придётся полностью перестраивать системы управления для работы с автономными агентами. Теперь он считает, что интеграция таких систем в деятельность компаний может оказаться проще, поскольку агенты уже способны работать в тех же сложных и запутанных средах, что и люди.
По его мнению, при условии правильного использования агентов это потенциально может увеличить объем работы, выполняемой людьми, а не сократить его. Когда организационные процессы обходятся дорого, компании берутся только за те задачи, для которых у них достаточно сотрудников, тогда как снижение затрат на координацию может сделать доступными для выполнения больше задач.
Реклама
В то же время ведущие ученые OpenAI, Anthropic, Meta и Microsoft вместе с пионерами отрасли Джеффри Хинтоном и Йошуа Бенджио опубликовали совместное предупреждение об угрозе вымирания человечества из-за неконтролируемой автоматизации разработки ИИ. Исследователи предупредили, что способность моделей к самосовершенствованию приводит к «взрыву интеллекта», который сжимает годы технологического развития до считанных месяцев. Опасения усугубляются тем, что лаборатории уже передают создание новых систем самому ИИ — в частности, Claude ведёт 26 % исследовательской деятельности Anthropic.