Я хочу рассказать вам историю
об искусственном интеллекте и фермерах.
Странная комбинация, правда?
Две темы, как нельзя более отличные друг от друга.
Но знаете ли вы, что современное сельское хозяйство
на самом деле включает в себя множество технологий?
Компьютерное зрение используется для прогноза урожайности культур.
А искусственный интеллект используется для поиска,
идентификации и избавления от насекомых.
Прогнозирующая аналитика помогает выявлять экстремальные погодные условия,
такие как засуха или ураганы.
Но эта технология отталкивает фермеров.
Ситуация обострилась в 2017 году,
когда тракторная компания John Deere представила умные тракторы.
Раньше, если трактор фермера ломался,
трактор можно было просто починить самим или передать механику.
А компания фактически запретила
фермерам ремонтировать собственное оборудование.
Нужно было обращаться к лицензированному специалисту,
и фермерам приходилось неделями ждать,
в то время как их посевы гнили и вредители атаковали урожай.
Поэтому фермеры взяли дело в свои руки.
Некоторые научились программировать
и вместе с хакерами создали патчи для восстановления своих систем.
В 2022 году
на одной из крупнейших в мире конференций хакеров, DEFCON,
хакер по имени Sick Codes и его команда
показали всем, как взломать трактор John Deere,
доказав, во-первых, что эта технология уязвима,
а во-вторых, что вы можете и должны владеть собственным оборудованием.
Поясню, что это незаконно,
но есть люди, которые пытаются это изменить.
Теперь это движение называется «правом на ремонт».
Право на ремонт выглядит примерно так.
Если у вас есть техника,
например, трактор, умная зубная щётка,
стиральная машина,
вы должны иметь право отремонтировать её в случае поломки.
Почему я рассказываю вам эту историю?
Право на ремонт должно распространяться и на искусственный интеллект.
Кажется, что каждую неделю в области ИИ
появляется новая и потрясающая инновация.
Но знаете ли вы, что общественное доверие на самом деле падает?
Недавний опрос центра Pew показал, что американцы скорее обеспокоены
этой технологией, чем воодушевлены ею.
Это находит отклик во всём мире.
Всемирный опрос о рисках показывает,
что респонденты из Центральной и Южной Америки и Африки
все заявили, что ИИ, по их мнению, принесёт им больше вреда, чем пользы.
Меня как социолога и разработчика ИИ
это расстраивает.
Я технологический оптимист,
так как искренне верю, что эта технология может принести пользу.
Так в чём же расхождение?
За последние несколько лет я общалась с сотнями людей.
Архитекторы и учёные, журналисты и фотографы,
водители и врачи,
все они говорят одно и то же.
Люди чувствуют себя отодвинутыми на второй план.
Все они знают, что их данные часто собираются без их разрешения
на создание этих сложных систем.
Они знают, что эти системы определяют их жизненные возможности.
Они также знают, что никто не удосужился спросить их,
как построить систему,
и они, конечно, понятия не имеют, куда идти, если что-то пойдёт не так.
Возможно, мы и не владеем системами ИИ,
но они постепенно начинают доминировать в нашей жизни.
Нужна лучшая система обратной связи
между людьми, создающими эти системы,
и людьми, которые лучше всех могут рассказать нам,
как эти системы ИИ должны взаимодействовать в своём мире.
Одним из шагов к этому является процесс, называемый Red teaming.
Сейчас практика «красных команд», зародившаяся в армии,
используется в кибербезопасности.
В рамках традиционной практики «красных команд»
для проникновения в систему привлекаются внешние эксперты,
как это было в случае с тракторами компании Sick Codes, но легально.
Таким образом, «красная команда» позволяет проверить вашу защиту,
а когда вы поймёте, где что-то пойдёт не так,
вы сможете решить, как это исправить.
Но когда системы ИИ выходят из-под контроля,
это не просто хакерский взлом.
Модель может выйти из строя или исказить реальность.
Например, не так давно
мы видели, как система ИИ пыталась внести разнообразие,
показывая исторически неточные фотографии.
Любой, кто хоть немного разбирается в истории Запада,
мог бы сказать вам, что ни отцы-основатели,
ни солдаты-нацисты не были чернокожими.
В таком случае, кого можно считать экспертом?
Вас.
Я работаю с тысячами людей по всему миру
на больших и малых практиках «красных команд»,
и благодаря им мы обнаружили и исправили ошибки в моделях ИИ.
Мы также сотрудничаем с крупнейшими технологическими компаниями мира:
OpenAI, Meta, Anthropic, Google.
Благодаря этому мы улучшили работу моделей для большего числа людей.
Вот кое-что из того, что мы узнали.
В партнёрстве с Королевским обществом в Лондоне мы провели научное
мероприятие по дезинформации с участием учёных-инфекционистов.
Эти учёные обнаружили,
что модели ИИ на самом деле в значительной степени
защищают от дезинформации о COVID.
Но к другим заболеваниям, таким как корь, эпидемический паротит и грипп,
такие меры защиты не применялись.
Мы сообщили об этих изменениях,
они исправлены, и теперь мы все лучше защищены
от научных заблуждений и дезинформации.
Мы провели аналогичную работу с архитекторами на Autodesk University
и задали им простой вопрос:
сможет ли искусственный интеллект оставить их без работы?
Или, точнее, могут ли они представить
современную систему ИИ,
способную спроектировать музей современного искусства?
Ответ, несомненно, был отрицательным.
Вот почему архитекторы делают больше, чем просто рисуют здания.
Они должны разбираться в физике и материаловедении,
должны знать строительные нормы
и при этом создавать
нечто, вызывающее эмоции.
Архитекторам нужна была система ИИ,
которая взаимодействовала бы с ними, давала обратную связь
и, возможно, предлагала рекомендации по проектированию.
Но современные системы ИИ пока не могут это делать.
Хотя это технические проблемы.
Люди, создающие ИИ, невероятно умны,
и, возможно, они смогут решить это за несколько лет.
Но это не было их главной заботой.
Более всего их беспокоило доверие.
Сейчас архитекторы несут ответственность, если с их зданиями что-то пойдёт не так.
Они могут лишиться лицензии,
их могут оштрафовать и даже отправить в тюрьму.
И неудачи могут произойти миллионом разных способов.
Например, двери на выходе открываются не в ту сторону,
что приведёт к столкновению людей во время эвакуации,
или попадание битого стекла на пешеходов на улице
из-за сильного ветра и разбитых окон.
Так зачем архитектору доверять свою работу,
полную свободу в использовании систем ИИ,
если в случае обнаружения ошибки он не может войти и исправить ошибку?
Нам нужно решить эти проблемы сегодня, и я расскажу вам почему.
Новая волна систем искусственного интеллекта, названная агентским ИИ, —
настоящий переломный момент
между тем, сохраняем ли мы свободу действий человека,
или же системы искусственного интеллекта принимают решения за нас.
Представьте себе агента ИИ, похожего на личного помощника.
Например, медицинский агент может определить,
нужно ли вашей семье посещение врача,
пополнить запасы лекарств по рецепту или, в экстренных случаях,
отправить медицинскую документацию в больницу.
Но агенты ИИ не могут и не будут существовать,
если не будет реального права на лечение.
Какой родитель доверит здоровье своего ребёнка системе ИИ,
если вы не проведёте базовую диагностику?
Какой специалист доверит системе ИИ принятие решений о работе,
если вы не сможете переобучить её так же, как и младшего сотрудника?
Теперь право на ремонт может выглядеть примерно так.
У вас может быть диагностическая плата,
на которой вы будете проводить собственные базовые тесты,
и, если что-то не так, вы можете сообщить об этом компании
и получить ответ после решения проблемы.
Или можете работать, например, с белыми хакерами,
которые вносят исправления в системы, как мы делаем сегодня.
Вы можете загрузить их и использовать
для улучшения своей системы.
Или как те бесстрашные фермеры вы можете научиться программировать
и настраивать свои собственные системы.
Мы не сможем реализовать обещанные преимущества ИИ,
пока не придумаем, как вовлечь людей в процесс разработки.
Я посвятила свою карьеру ответственному ИИ,
и в этой области мы задаём вопрос:
что могут создать компании, чтобы люди доверяли ИИ?
И сейчас, выполнив эти практики красной команды и поговорив с вами,
я поняла, что мы всегда задавали неправильный вопрос.
Нам стоило спросить, какие инструменты мы можем создать,
чтобы люди могли использовать ИИ в своих интересах?
Технологи не могут сделать это в одиночку.
Мы можем сделать это только вместе с вами.
Спасибо.
(Аплодисменты)