Мустафа Сулейман, видный деятель в области искусственного интеллекта и соучредитель Inflection AI, недавно выступил с содержательным докладом на TED.
Ниже представлена его презентация, или вы можете посмотреть полное видео здесь:
«Я хочу рассказать вам о том, что я предвижу в будущем. Мне посчастливилось работать над искусственным интеллектом уже почти 15 лет, но когда я начал называть его «Fringe», было бы преуменьшением. Исследователи ответили: «Нет, нет, мы работаем только над машинным обучением», потому что работа над искусственным интеллектом считалась чем-то необычным. В 2010 году одно только упоминание фразы AGI (искусственный интеллект общего назначения) заставило вас выглядеть очень странно и даже холодно. «Вы на самом деле создаете искусственный интеллект?» люди скажут: «Разве это не научная фантастика?» Люди думали, что до этого осталось 50 лет или 100 лет, если это вообще возможно. Думаю, разговоры об искусственном интеллекте были довольно неловкими. Люди обычно считали нас странными, и, наверное, в некотором смысле так оно и было.
Однако вскоре искусственный интеллект стал превосходить людей в решении целого ряда задач, которые раньше считались недостижимыми: понимание изображений, перевод языков, расшифровка речи, игра в го и шахматы и даже диагностика заболеваний. Люди начали осознавать, что искусственный интеллект окажет огромное влияние, и справедливо задавали таким технологам, как я, довольно сложные вопросы: правда ли, что искусственный интеллект поможет решить климатический кризис? Сможет ли это сделать персонализированное образование доступным для всех? Означает ли это, что все мы получим всеобщий базовый доход и нам больше не придется работать? Стоит ли мне бояться? Что это значит для оружия и войны и, конечно, победит ли Китай? Участвуем ли мы в гонке? Нас ждет массовый дезинформационный апокалипсис? Все хорошие вопросы.
Но на самом деле меня озадачил более простой и гораздо более фундаментальный вопрос, который каждый день затрагивает самую суть моей работы. Однажды утром за завтраком мой шестилетний племянник Каспиан играл с искусственным интеллектом Pi, который я создал в своей последней компании Inflection. С глотком яичницы он прямо посмотрел мне в лицо и спросил: «Но Мустафа, а что такое искусственный интеллект?» Он такой искренний, любопытный и оптимистичный малыш. Он говорил с Пи о том, как было бы здорово, если бы в будущем он мог навестить динозавров в зоопарке и приготовить дома бесконечное количество шоколада, а также о том, почему Пи до сих пор не может играть в «Я шпион».
Что ж, я сказал: «Это умная программа, которая читает большую часть текста в открытом Интернете и может говорить с вами о чем угодно». «Верно, значит, как человек?» Я была в тупике, мне осталось только ломать голову. Все мои скучные ответы приходили мне в голову: «Нет, но искусственный интеллект — это просто еще одна технология общего назначения, такая как печать или паровая печать. Это будет инструмент, который поможет нам стать лучше, умнее и продуктивнее, а когда со временем он станет лучше, он станет похожим на всезнающий Oracle, который поможет нам решать грандиозные научные задачи». Знаете, все эти ответы, мне кажется, поначалу казались немного защитными, и на самом деле лучше было пойти на семинар по полису, чем позавтракать с шестилетним ребенком в полдень.
«Почему я сомневаюсь?» Я подумала про себя. «Знаете, давайте будем честными. Мой племянник задавал мне простой вопрос, на который те из нас, кто работает в сфере искусственного интеллекта, задаются нечасто: что мы на самом деле создаем? Что значит создать что-то совершенно новое, кардинально отличающееся от всех известных нам изобретений?»
Ясно, что мы переживаем переломный момент в истории человечества. На нынешней траектории развития мы приближаемся к появлению чего-то, что все мы так и не можем описать, но мы не можем контролировать то, чего не понимаем. Итак, метафоры, ментальные модели, имена — все это важно, если мы хотим извлечь максимальную пользу из искусственного интеллекта и при этом ограничить его потенциальные недостатки. Как человек, который понимает возможности этой технологии, но при этом всегда уделял большое внимание ее этике, я думаю, мы должны иметь возможность легко описать, что именно мы создаем, в том числе для шестилетних детей.
Именно в этом духе я предлагаю сегодня следующую метафору, которая поможет нам разобраться в том, чем на самом деле является данный момент. Думаю, лучше всего понимать искусственный интеллект как нечто вроде нового цифрового вида. Не стоит воспринимать это слишком буквально, но я предсказываю, что мы станем считать их цифровыми компаньонами, новыми партнерами на протяжении всей нашей жизни, независимо от того, как вы думаете, что нам предстоит прожить здесь 10, 20 или 30 лет. На мой взгляд, это самый точный и принципиально честный способ описания того, что на самом деле грядет. И самое главное, это позволяет каждому подготовиться к будущему и сформировать его.
Теперь я считаю, что это веское утверждение, и я постараюсь объяснить всем как можно лучше, почему я это делаю. Но сначала позвольте мне задать контекст: с самых первых микроскопических организмов жизнь на Земле насчитывает миллиарды лет. За это время жизнь развивалась и диверсифицировалась. Затем, несколько миллионов лет назад, что-то начало меняться. После бесчисленных циклов роста и адаптации одна из ветвей жизни начала использовать инструменты, и эта ветвь превратилась в нас. Мы начали создавать завораживающее разнообразие инструментов, причем сначала медленно, а затем с удивительной скоростью. Мы перешли от каменных топоров и огня к языку, письму и, в конечном итоге, к промышленным технологиям. Одно изобретение породило еще тысячу новых изобретений, и со временем мы стали техническими людьми.
Около 80 лет назад с изобретением компьютеров началась еще одна новая отрасль технологий. Мы быстро перешли от первых мейнфреймов и транзисторов к современным смартфонам и гарнитурам виртуальной реальности. Информация, знания, коммуникация, вычисления — в этой революции творчество достигло небывалых масштабов. А теперь нас ждет новая волна: искусственный интеллект. Эти исторические волны очевидны, и по мере того, как каждая из них усиливается и ускоряется с другой. И если вы оглянетесь назад, то увидите, что мы переживаем самую быструю и значимую волну за всю историю.
Путешествия человечества и технологий теперь тесно переплетены. Всего за 18 месяцев более миллиарда человек воспользовались большими языковыми моделями. Мы стали свидетелями одного знаменательного события за другим. Всего несколько лет назад люди говорили, что искусственный интеллект никогда не станет творческим человеком, но сейчас он кажется бесконечной рекой творческих способностей, создающих поэзию, изображения, музыку и видео, которые расширяют воображение. Люди говорили, что искусственный интеллект никогда не проявит чуткости, но сегодня миллионы людей с удовольствием беседуют с искусственным интеллектом, рассказывают о своих надеждах и мечтах и помогают им справиться с трудными эмоциональными проблемами.
Теперь искусственный интеллект может управлять автомобилями, управлять энергосетями и даже изобретать новые молекулы. Всего несколько лет назад все это было невозможно. И все это подстегивается растущими экспонентами данных и вычислений. В прошлом году Inflection 2.5, наша последняя модель, использовала в пять миллиардов раз больше вычислительных ресурсов, чем искусственный интеллект DeepMind, который чуть более 10 лет назад превзошел старые игры Atari. Это на девять порядков больше вычислений, в 10 раз в год, в течение почти десяти лет. За это же время размер этих моделей вырос с десятков миллионов параметров, затем до миллиардов параметров, а вскоре и десятков триллионов параметров.
Если бы кто-то занимался чтением 24 часа в сутки за всю свою жизнь, он бы съел 8 миллиардов слов. Конечно, это много слов, но сегодня самые продвинутые ИИ потребляют более восьми триллионов слов за один месяц обучения. И все это будет продолжаться. Длинная технологическая история вступила в необычайно новую фазу.
Итак, что это значит на практике? Что ж, точно так же, как Интернет дал нам браузер, а смартфон — приложения, облачный суперкомпьютер открывает новую эру вездесущего искусственного интеллекта. Скоро все будет представлено диалоговым интерфейсом или, другими словами, персональным искусственным интеллектом. И эти искусственные интеллекты будут обладать бесконечными знаниями, а вскоре они станут точными и надежными. У них будет почти идеальный IQ, а также исключительный EQ. Они будут добры, отзывчивы и отзывчивы. Эти элементы сами по себе могут изменить мир. Представьте себе, если бы у каждого в кармане был персональный репетитор и доступ к недорогим медицинским консультациям, юристу, врачу, бизнес-стратегу и тренеру — и все это в вашем кармане 24 часа в сутки.
Но все действительно начинает меняться, когда у них развивается то, что я называю AQ, то есть коэффициент их действий. Это их способность действительно добиваться результатов в цифровом и физическом мире. И вскоре искусственный интеллект будет доступен не только людям. Как бы странно это ни звучало, но каждая организация, от малого бизнеса до некоммерческой организации и национального правительства, будет иметь свои собственные. Каждый город, здание и объект будут представлены уникальным интерактивным персонажем. И это будут не просто механистические помощники. Они будут компаньонами, доверенными лицами, коллегами, друзьями и партнерами, такими же разнообразными и уникальными, как и все мы.
На данный момент искусственный интеллект будет убедительно подражать людям при выполнении большинства задач, и мы почувствуем это в самых интимных масштабах: искусственный интеллект организует общественную встречу для пожилого соседа, отзывчивый эксперт поможет вам разобраться в сложном диагнозе. Но мы ощутим это и в самых широких масштабах: ускоряя научные открытия, беспилотные автомобили на дорогах, дроны в небе. Они оба закажут еду на вынос и будут управлять электростанцией. Они будут общаться с нами и, конечно же, друг с другом. Они будут говорить на всех языках, изучать все типы данных датчиков — изображения, звуки, потоки и потоки информации. Это намного больше, чем любой из нас мог бы потреблять за тысячу жизней.
Итак, что же это такое? Что это за искусственный интеллект? Если мы хотим поставить безопасность превыше всего, чтобы новая волна всегда служила человечеству и приносила ему пользу, нам необходимо найти правильные метафоры, описывающие, чем это может обернуться. В течение многих лет мы в сообществе искусственного интеллекта, и я, в частности, привыкли считать это просто инструментами. Но это не совсем соответствует тому, что здесь происходит на самом деле. Очевидно, что искусственный интеллект более динамичен, неоднозначен, интегрирован и более эффективен, чем простые инструменты, полностью подвластные человеку.
Поэтому, чтобы сдержать эту волну, поставить во главу угла человеческую свободу действий и смягчить неизбежные непредвиденные последствия, которые могут возникнуть, нам следует начать думать о них как о новом типе цифровых существ. Теперь это просто аналогия. Это не буквальное описание, и оно не идеально. Я имею в виду, что для начала они явно не биологические в традиционном смысле. Но просто остановитесь на минутку и серьезно подумайте о том, что они уже делают. Они общаются на наших языках, видят то же, что и мы, они потребляют невообразимо большие объемы информации, обладают памятью, индивидуальностью, творческими способностями. В некоторой степени они могут даже рассуждать и формулировать элементарные планы. Они могут действовать автономно, если мы им позволим, и все это они делают на уровне сложности, намного превосходящем все, что мы когда-либо знали с помощью простого инструмента.
Таким образом, сказать, что искусственный интеллект в основном связан с математикой или кодом, все равно что сказать, что мы, люди, в основном сосредоточены на углероде и воде. Это правда, но суть здесь совершенно упускается из виду. Да, я понимаю, это очень интересная мысль, но, честно говоря, я думаю, что этот фрейм помогает нам сосредоточиться на важнейших вопросах: каковы риски? Какие границы мы должны установить? Какой искусственный интеллект мы хотим создать или разрешить его создание? Эта история все еще продолжается. Ничто не должно восприниматься как данность. Мы все должны выбирать, что мы создаем, какой искусственный интеллект привнесем в мир или нет. Эти вопросы задаются всем присутствующим здесь сегодня и всем нам, живущим в данный момент.
Для меня преимущества этой технологии потрясающе очевидны, и они вдохновляют меня работать каждый день. Но, честно говоря, они скажут сами за себя. На протяжении многих лет я всегда подчеркивал риски и говорил о недостатках. Подобное мышление помогает нам сосредоточиться на огромных задачах, стоящих перед всеми нами. Но давайте внесем ясность: нет пути к прогрессу, если мы оставим технологии позади. Приз для всей цивилизации огромен. Нам нужны решения в сфере здравоохранения и образования для преодоления климатического кризиса. И если искусственный интеллект реализует лишь малую часть своего потенциала, следующее десятилетие станет самым продуктивным в истории человечества.
Вот еще один способ взглянуть на это. В прошлом стимулирование экономического роста часто сопровождалось серьезными недостатками. Экономика росла по мере того, как люди открывали новые континенты и открывали новые границы, но в то же время они колонизировали население. Мы строили заводы, но работать в них было мрачно и опасно. Мы добывали нефть, но загрязнили планету. Сейчас, когда мы все еще разрабатываем и создаем искусственный интеллект, у нас есть потенциал и возможность сделать это лучше, радикально лучше. И сегодня мы не собираемся открывать для себя новый континент и разграблять его ресурсы. Мы строим его с нуля.
Иногда люди говорят, что данные или чипы — это новая нефть 21 века, но это совершенно неверное представление. Для нас искусственный интеллект — это то же самое, что термоядерный синтез для энергии: оно безгранично, в изобилии и меняет мир. Искусственный интеллект действительно отличается от других. Это значит, что мы должны думать об этом творчески и честно. Чтобы понять, что нас ждет в будущем, мы должны довести свои аналогии и метафоры до предела, потому что это не просто очередное изобретение. Сам по себе искусственный интеллект — бесконечный изобретатель. И да, это одновременно захватывающе и многообещающе, тревожно и интригующе. Честно говоря, это довольно сюрреалистично. Но оглянитесь назад и взгляните на ледниковое время в долгосрочной перспективе, и это действительно самые подходящие метафоры, которые есть на сегодняшний день.
С самого начала жизни на Земле, Земле, мы развивались, менялись, а затем создавали все, что нас окружает в человеческом мире. Сегодня искусственный интеллект — это не что-то другое; на самом деле все совсем наоборот. Это все, что мы создали и превратили в нечто, с чем все мы можем взаимодействовать и получать от этого пользу. Это отражение человеческого бытия во времени. И в этом смысле это совсем не новый вид. На этом метафоры заканчиваются. Вот что я скажу Каспиану в следующий раз, когда он спросит: искусственный интеллект — это не нечто отдельное. В некотором смысле искусственный интеллект даже не нов. Искусственный интеллект — это мы. Это все мы. И это, пожалуй, самое многообещающее и самое важное из всех, в чем может разобраться даже шестилетний ребенок. Создавая искусственный интеллект, мы можем и должны воплощать в себе все хорошее, что мы любим, все, что есть в человечестве: наше сочувствие, доброту, любопытство и творческий потенциал. Я бы сказал, что это величайший вызов 21-го века, а также самая прекрасная, вдохновляющая и обнадеживающая возможность для всех нас. Спасибо, спасибо, спасибо».
