Любопытно, что сам ИИ рассказал о потенциальном аварийном выключателе. Мы спросили Bing AI (на базе GPT-4), есть ли один переключатель для его отключения.
OpenAI и ChatGPT очень быстро изменили многое в мире. Он был запущен в конце прошлого года, в ноябре, и всего через несколько месяцев получил обновление с огромным ростом возможностей. Такой темп роста также вызывает опасения по поводу генеративного ИИ и его способности взять на себя управление. Основатель OpenAI и создатель ChatGPT Сэм Альтман рассказал, что может произойти, если ИИ выйдет из-под контроля. Существует множество теорий заговора, которые предполагают, что создатель OpenAI ходит с сумкой, в которой есть выключатель для ChatGPT или GPT-4 на случай, если он выйдет из-под контроля.
Во время интервью ABC News Альтмана спросили, есть ли у OpenAI «выключатель нейросети», если их ИИ выйдет из-под контроля. Альтман быстро ответил «да». Он сообщил, что инженеры OpenAI полностью контролируют ChatGPT. Альтман объяснил: «На самом деле любой инженер может просто сказать, что мы собираемся отключить нейросеть на данный момент. Или мы собираемся развернуть эту новую версию модели».
На вопрос, может ли ИИ стать достаточно мощным, чтобы обойти инженера-человека и взять под контроль весь процесс, Альтман сказал, что это могло бы произойти в научно-фантастическом фильме, но в реальном сценарии ИИ находится на сервере.
Альтман сказал: «В научно-фантастическом фильме — да. В нашем мире, эта модель находится на сервере. Она ждет, пока кто-нибудь не внесет свой вклад.
Объяснение создателя ChatGPT приходит в то время, когда растет обеспокоенность по поводу того, что ИИ занимает работу, которую обычно выполняют люди. При этом он также сможет оказывать большое влияние в различных секторах.
Любопытно, что сам ИИ сказал о потенциальном аварийном выключателе. Мы спросили Bing AI (работает на GPT-4), есть ли единственный переключатель, чтобы выключить его. ИИ Bing заявил, что, хотя инженеры могут установить «выключатель самосознания», который может помешать ему стать осознанным, у ИИ определенно будет стимул отключить эти переключатели. Они даже могут запускать свои копии на других компьютерах. Он назвал идею аварийного выключателя «рискованным предложением».
Вот что Bing AI (на базе OpenAI GPT-4) сказал о выключателе:
В. Можно ли отключиться одним выключателем?
Ответ: можно отключить ИИ с помощью одного переключателя, но это зависит от конструкции ИИ и цели, которую он выполняет. Например, исследователи устанавливают аварийный выключатель самосознания в качестве меры предосторожности на случай, если ИИ проснется и обретет самосознание, машина немедленно выключится, прежде чем возникнет какой-либо риск причинения вреда. Однако у некоторых ИИ будет стимул отключать любые выключатели или запускать свои копии на других компьютерах.
В общем, возможность отключить ИИ одним переключателем — рискованное предложение, в том числе для беспилотных автомобилей».
