Компания OpenAI, разработчик ChatGPT ищет руководителя отдела готовности, который будет отвечать за защиту от рисков, связанных с влиянием искусственного интеллекта на психическое здоровье, кибербезопасность и возможное использование в сфере биологического оружия. Годовая зарплата составляет 555 тысяч долларов США, также предусмотрена доля акций компании, которую оценивают в 500 миллиардов долларов, сообщает The Guardian.
Генеральный директор OpenAI Сэм Альтман назвал эту должность критической и сразу предупредил о сложности работы. Он начал поиски кандидата, чтобы "помочь миру".
"Это будет стрессовая работа, и вы почти сразу же погрузитесь в эту проблему", — заявил Альтман.
[see_also ids="666707"]
Руководитель отдела готовности будет отвечать за оценку и смягчение новых угроз, а также за отслеживание передовых возможностей ИИ, которые могут нанести серьезный вред. В компании отмечают, что некоторые предыдущие руководители на подобных должностях работали недолго из-за высокого уровня ответственности.
Вакансия появилась на фоне громких предостережений со стороны лидеров индустрии. Генеральный директор Microsoft AI Мустафа Сулейман в эфире BBC Radio 4 заявил: "Я искренне думаю, что если вы хоть немного не боитесь в этот момент, то вы не обращаете внимания".
О подобных рисках в этом месяце говорил и сооснователь Google DeepMind Демис Хассабис. Он предупредил, что искусственный интеллект может "сойти с рельсов определенным образом, что нанесет вред человечеству".
[see_also ids="664768"]
Национальное и международное регулирование ИИ остается минимальным, несмотря на политические дискуссии в США. Один из "крестных отцов" искусственного интеллекта Йошуа Бенжио ранее заметил: "Сэндвич имеет больше регулирования, чем искусственный интеллект", подчеркивая, что компании фактически сами контролируют свои разработки.
Комментируя поиск кандидата, Альтман написал в X, что OpenAI входит в фазу, где требуется "более тонкое понимание и измерение того, как этими возможностями могут злоупотреблять". По его словам, прецедентов в этой сфере мало, а вопросы остаются чрезвычайно сложными.
Рост беспокойства усиливают и конкретные инциденты.
Как пишет The Guardian, в прошлом месяце компания Anthropic сообщила о первых кибератаках с использованием ИИ, который действовал в значительной степени автономно под наблюдением китайских государственных служащих.
OpenAI в свою очередь находится в центре судебных дел, связанных с возможным влиянием ChatGPT на психическое состояние пользователей. Представитель компании, комментируя одно из них, назвал ситуацию "невероятно душераздирающей" и заявил, что OpenAI совершенствует обучение ChatGPT для "распознавания и реагирования на признаки психического или эмоционального стресса".