Блог

Mar 17, 2024

Нервничаете по поводу ChatGPT? Попробуйте ChatGPT с помощью Hammer

Брюс Шнайер Натан Сандерс В марте прошлого года, всего через две недели после выпуска GPT-4, исследователи Microsoft незаметно объявили о плане собрать миллионы API — инструментов, которые могут делать все, начиная от

Брюс Шнайер Натан Сандерс

В марте прошлого года, всего через две недели после выпуска GPT-4, исследователи Microsoft незаметно объявили о плане объединить миллионы API — инструментов, которые могут делать все: от заказа пиццы до решения физических уравнений и управления телевизором в гостиной — в сборник, который будет доступен для больших языковых моделей (LLM). Это была всего лишь одна веха в гонке между промышленностью и научными кругами по поиску лучших способов научить студентов-магистров манипулировать инструментами, которые увеличили бы потенциал ИИ больше, чем любое из впечатляющих достижений, которые мы видели до сих пор.

Проект Microsoft направлен на то, чтобы научить ИИ использовать любые цифровые инструменты одним махом — умный и эффективный подход. Сегодня специалисты LLM могут неплохо порекомендовать вам начинки для пиццы, если вы опишете свои диетические предпочтения и сможете составить диалог, который вы сможете использовать, когда позвоните в ресторан. Но большинство инструментов искусственного интеллекта не могут разместить заказ, даже онлайн. Напротив, инструмент Google Assistant, созданный семилетней давностью, может синтезировать голос по телефону и заполнять форму онлайн-заказа, но он не может выбрать ресторан или угадать ваш заказ. Однако, объединив эти возможности, ИИ, использующий инструменты, сможет сделать все это. LLM с доступом к вашим прошлым разговорам и инструментам, таким как калькуляторы калорий, база данных меню ресторана и ваш цифровой платежный кошелек, может реально решить, что вы пытаетесь похудеть и хотите низкокалорийный вариант, найдите ближайший ресторан с начинками, которые вам нравятся. и оформить заказ на доставку. Если у него есть доступ к вашей истории платежей, он может даже догадаться, насколько щедры вы обычно даете чаевые. Если у него есть доступ к датчикам ваших умных часов или фитнес-трекера, он сможет определить, когда у вас низкий уровень сахара в крови, и заказать пирог еще до того, как вы поймете, что голодны.

Натан Сандерс — специалист по обработке данных, работающий в Центре Беркмана Кляйна при Гарвардском университете. Он много пишет о влиянии ИИ на демократию.

Брюс Шнайер является технологом безопасности. Он написал более дюжины книг, в том числе «Мышление хакера: как богатые и могущественные нарушают правила общества и как их повернуть вспять». Он преподает в Гарвардской школе Кеннеди и живет в Массачусетсе.

Возможно, наиболее привлекательными потенциальными применениями инструментов являются те, которые дают ИИ возможность самосовершенствоваться. Предположим, например, вы попросили чат-бота помочь интерпретировать какой-то аспект древнеримского права, примеры которого никто не догадался включить в исходное обучение модели. Магистр права, уполномоченный осуществлять поиск в академических базах данных и запускать собственный процесс обучения, может уточнить свое понимание римского права, прежде чем ответить. Доступ к специализированным инструментам может даже помочь такой модели лучше объяснить себя. Хотя такие LLM, как GPT-4, уже довольно хорошо объясняют свои рассуждения, когда их об этом спрашивают, эти объяснения возникают из «черного ящика» и уязвимы для ошибок и галлюцинаций. Но LLM, использующий инструмент, может анализировать свои собственные внутренние процессы, предлагая эмпирические оценки собственных рассуждений и детерминистические объяснения того, почему он дал тот ответ, который дал.

Если получить доступ к инструментам для получения обратной связи от людей, LLM, использующий эти инструменты, может даже генерировать специализированные знания, которые еще не представлены в Интернете. Он может опубликовать вопрос на Reddit или Quora или делегировать задачу человеку на Amazon Mechanical Turk. Он мог бы даже искать данные о предпочтениях людей, проводя опросы, либо для того, чтобы дать ответ непосредственно вам, либо для того, чтобы настроить собственное обучение, чтобы иметь возможность лучше отвечать на вопросы в будущем. Со временем ИИ, использующие инструменты, могут начать во многом напоминать людей, использующих инструменты. LLM может генерировать код намного быстрее, чем любой программист-человек, поэтому он может легко манипулировать системами и службами вашего компьютера. Он также может использовать клавиатуру вашего компьютера и курсор, как это делает человек, что позволяет ему использовать любую программу, которую вы используете. И оно могло бы улучшить свои собственные возможности, используя инструменты для того, чтобы задавать вопросы, проводить исследования и писать код для внедрения в себя.