ИИ сел за компьютер

Представьте, что вы можете сказать компьютеру: «Оформи за меня объявление на eBay, закажи обед и сделай 3D-модель ракеты», а сами пойдете пить кофе. Еще недавно такое казалось сюжетом научно-фантастического фильма...

Теперь граница между человеком и машиной стирается. Компания OpenAI представила новую модель GPT-6 Astra, заявив о переходе к следующему этапу развития искусственного интеллекта. Новая система может не только отвечать, писать тексты или генерировать изображения.

Модель получила возможность самостоятельно взаимодействовать с компьютером, браузером и профессиональными программами, выполняя поставленную задачу практически так, как это делал бы человек.

О том, что меняет появление таких систем, сможет ли человек по-прежнему полностью контролировать их работу и какие новые возможности получают специалисты, мы поговорили с доктором экономических наук, профессором Салехом Мамедовым.

– Еще недавно искусственный интеллект мог отвечать на вопросы и создавать контент, но сам компьютер оставался в руках человека. Astra меняет этот принцип?

– Да, и мы к этому послеловательно шли. Раньше обсуждалась возможность дать языковым моделям доступ непосредственно к компьютеру пользователя. Примерно так человек уже давно может удаленно управлять другим компьютером с помощью программ вроде AnyDesk или TeamViewer. Но там работа строится через изображение: пользователь видит экран другого компьютера и управляет им.

С Astra подход уже другой. OpenAI представила ее как систему, которая сочетает возможности языковой модели и способность самостоятельно выполнять действия на компьютере.  

Простыми словами, это система, которая не просто выполняет одну конкретную функцию, а справляется с широким кругом интеллектуальных задач.

– То есть пользователю уже не обязательно объяснять машине каждый шаг?

– В этом и заключается главное изменение. Раньше человеку приходилось подробно расписывать, что нужно сделать сначала, что потом, какую кнопку нажать, какую информацию найти. Теперь достаточно поставить задачу и обозначить ожидаемый результат.

Например, нужно собрать информацию в интернете, перенести ее в таблицу, обработать полученные данные и подготовить результат. Astra может сама искать нужные сведения, заполнять интернет-формы, работать с электронными таблицами, анализировать научные данные, создавать и проверять сайты.

Она способна взаимодействовать и со специальными программами. Поэтому вопрос уже не в том, чтобы искусственный интеллект написал человеку текст или дал готовый ответ. Он сам выполняет последовательность действий, необходимых для решения задачи.

– Где особенно востребована такая возможность?

– Прежде всего там, где человеку приходится выполнять много последовательных операций за компьютером. Особенно заметные результаты Astra показывает в программировании, научных исследованиях и работе с большими объемами документов.

– Получается, компьютер постепенно превращается из инструмента в самостоятельного исполнителя?

– По сути, это так. Раньше компьютер был инструментом, которым человек управлял сам. Потом появились программы, умеющие автоматизировать отдельные операции. Теперь появляется следующий уровень: человек формулирует задачу, а искусственный интеллект самостоятельно выбирает последовательность действий.

Для специалиста это серьезная экономия времени: работу, на которую раньше уходили часы, новая система может выполнить гораздо быстрее. При этом человек может сосредоточиться на постановке задачи, проверке результата и принятии решений.

Но здесь возникает и другой вопрос: насколько точно машина выполнит порученную работу и кто будет отвечать за ошибку. Чем больше самостоятельности получает система, тем важнее человеческий контроль.

– Вы считаете, что чем больше самостоятельности у искусственного интеллекта, тем выше и цена ошибки. Какие опасности появляются?

– Проблема действительно становится серьезнее. Astra стала первой моделью OpenAI, достигшей уровня «Критический» в рамках Preparedness Framework. Это внутренняя система оценки рисков, которую компания использует для проверки безопасности своих моделей.

Проще говоря, специалисты проверяют, на что способна система, если дать ей больше самостоятельности. В случае Astra речь заходит в том числе о способности находить ранее неизвестные слабые места в защищенных компьютерных системах и потенциально использовать их.

По этой причине для публичной версии модели установлены дополнительные ограничения. Часть запросов, связанных с кибербезопасностью и возможным злоупотреблением такими возможностями, ограничивается защитными механизмами.

Развитие таких систем будет продолжаться. Но вместе с расширением их возможностей должны усиливаться и меры безопасности. В противном случае инструмент, созданный для экономии времени и облегчения работы, может использоваться во вредоносных целях.