Сэм Альтман: мы создали ИИ, но ещё не поняли, как с ним жить

Глава OpenAI — о недостающем «iPhone-моменте» искусственного интеллекта, человеческой инерции, новой власти, персональных AI-агентах и мире, который меняется медленнее технологии

23 августа предприниматель и автор подкаста Founders Дэвид Сенра опубликовал большое интервью с Сэмом Альтманом — сооснователем и CEO OpenAI. Разговор длится чуть больше часа и называется Sam Altman on Building OpenAI & Betting on the Impossible.

Оригинал интервью:
Sam Altman on Building OpenAI & Betting on the Impossible — YouTube

Полный текст разговора с таймкодами:
Transcript & Key Moments

Формально разговор посвящён OpenAI, предпринимательству, технологическим ставкам и управлению компанией. Но если убрать бизнес-анекдоты и воспоминания о Y Combinator, получается кое-что интереснее: довольно цельная картина того, как сам Альтман представляет ближайшую фазу сосуществования человека и искусственного интеллекта.

И эта картина заметно спокойнее привычных прогнозов о том, что уже завтра AI либо спасёт человечество, либо оставит всех без работы.

Альтман говорит почти обратное.

Технология летит вперёд.

Человек — нет.

И именно это сейчас становится главным ограничением.

Человек, построивший ChatGPT, работает за компьютером почти как двадцать лет назад

Один из лучших эпизодов интервью начинается почти как признание.

Дэвид Сенра спрашивает Альтмана: случается ли ему самому понимать, что с помощью AI какую-то работу уже можно выполнять совершенно иначе, — но всё равно продолжать делать её по старинке?

Ответ Альтмана: «Сто процентов».

Он рассказывает, что уже около двадцати лет пользуется компьютером практически одинаковым образом. Переключается между приложениями, копирует данные из одного окна в другое, просматривает почту, выбирая, на какое письмо ответить, ведёт списки дел.

И всё это делает человек, у которого под рукой есть Codex — система, способная взять значительную часть такой рутины на себя.

Альтман называет это одним из самых сильных психологических противоречий в собственном поведении: рационально он прекрасно понимает, что существует лучший способ работы, но внутри всё ещё сидит привычное ощущение, что работать — значит самому нажимать кнопки, разбирать почту и вычёркивать пункты из списка задач.

Это кажется забавной бытовой подробностью.

На самом деле в ней заключена одна из главных проблем сегодняшнего AI.

Мы получили новую технологию, но пытаемся вставить её в интерфейсы и привычки старого мира.

Когда появились первые автомобили, люди ещё долго воспринимали их как кареты без лошадей. Первые сайты напоминали бумажные страницы. Первые смартфоны оставались маленькими телефонами с клавиатурой.

С искусственным интеллектом происходит примерно то же самое.

Мы открываем ChatGPT в отдельном окне.
Задаём вопрос.
Получаем ответ.
Копируем его в другой сервис.
А потом снова берём управление компьютером на себя.

И человек, стоящий во главе OpenAI, делает примерно то же самое.

«iPhone-момента» искусственного интеллекта ещё не было

Отсюда Альтман приходит к одной из самых интересных мыслей всего интервью.

По его мнению, сегодняшний AI находится примерно там же, где смартфоны находились до появления первого iPhone.

Телефоны уже умели выходить в интернет. Существовали мобильные приложения, почта, браузеры, Palm, BlackBerry и множество других устройств.
Большинство технологических компонентов уже было создано.

Не хватало одной вещи: продукта, который соберёт всё это вместе и заставит человека совершенно иначе взаимодействовать с вычислительной техникой.

Так появился iPhone.

С AI, считает Альтман, этого пока не произошло.

Технологические компоненты уже существуют. Но «iPhone-момента», который полностью изменит способ взаимодействия человека с технологией, ещё не было.

Он прямо называет сегодняшнюю ситуацию продуктовой неудачей, а не нехваткой возможностей моделей.

Это важное различие.

Последние годы индустрия была практически одержима вопросом: какая модель умнее?

GPT, Gemini, Claude, Grok — тесты, бенчмарки, количество параметров, длина контекста.

Альтман фактически говорит: возможно, следующий настоящий перелом произойдёт уже не тогда, когда модель наберёт ещё несколько процентов в очередном тесте.
Он произойдёт тогда, когда кто-нибудь придумает правильный способ встроить эту интеллектуальность в повседневную жизнь человека.

И тогда привычный компьютер действительно может начать исчезать — не физически, а концептуально.
Не человек будет открывать программу, чтобы выполнить задачу.
Он будет сообщать системе, чего хочет добиться, а дальнейшая последовательность действий станет проблемой машины.

И вот такого компьютера у нас пока действительно нет.

AI развивается быстрее, чем люди успевают менять привычки

Ещё совсем недавно многие в Кремниевой долине были уверены, что внедрение AI в компании произойдёт почти мгновенно.

Оказалось — нет.

Альтман объясняет это человеческой инерцией.

Люди продолжают использовать привычные инструменты даже тогда, когда уже существует объективно лучший способ.

Он вспоминает Netflix и Blockbuster: новая технология была удобнее, но старое поведение исчезало гораздо медленнее, чем ожидали технологические энтузиасты.

И здесь его взгляд заметно отличается от того, как о будущем AI рассуждает Илон Маск.

Недавно я отдельно разбирал большое интервью Илона Маска о будущем искусственного интеллекта — о сверхинтеллекте, сингулярности, исчезновении привычной работы и том, какое место вообще может остаться человеку в этом новом мире. Если вы его пропустили, рекомендую заглянуть в тот материал: «название статьи о Маске». Сравнивать эти два интервью особенно интересно: Маск и Альтман говорят во многом об одном и том же будущем, но смотрят на него с совершенно разных точек.

У Маска развитие искусственного интеллекта выглядит почти как физический процесс: вычислительная мощность растёт, интеллект ускоряется, сверхинтеллект становится практически неизбежным, а человечество приближается к технологической сингулярности.

У Альтмана между технологией и будущим стоит ещё один огромный слой — человеческое поведение.

Модель может стать вдвое умнее за несколько месяцев.
Человек за это же время может даже не переставить привычную иконку на рабочем столе.

Получаются две разные картины одного будущего.

Для Маска главным ускорителем истории становится сама технология.

Для Альтмана главным тормозом остаёмся мы.

И, возможно, оба правы одновременно.

Технология может двигаться экспоненциально, а общество — линейно.

И тогда настоящий перелом произойдёт не в момент появления очередной более мощной модели, а тогда, когда эти две кривые наконец пересекутся.

Для рынка труда это, между прочим, хорошая новость.

Если возможности AI действительно продолжат расти столь быстро, постепенность внедрения даёт обществу хотя бы какой-то запас времени на адаптацию.

Чем лучше становится искусственный интеллект, тем дороже может становиться человек

А потом разговор неожиданно поворачивает от технологий к людям.

Сенра рассуждает: допустим, искусственный интеллект сможет делать прекрасный подкаст. Две модели разговаривают друг с другом интереснее двух людей.
Будет ли человек всё равно предпочитать слушать людей?

Альтман отвечает, что глубоко в это верит.

По его мнению, работа, связанная непосредственно с человеческими отношениями, интересом людей друг к другу, личностью и человеческой связью, в мире развитого AI может стать ценнее, а не дешевле.

Вот это уже гораздо интереснее стандартной дискуссии «какие профессии заменит искусственный интеллект».
Потому что ценность продукта складывается не только из качества результата.

Представим, что AI однажды действительно сможет написать роман лучше среднего писателя.
Создать песню лучше среднего музыканта.
Снять прекрасный фильм.
Провести великолепное интервью.

Всё равно останется вопрос:
кто это сделал?

Нас интересует не только музыка Пола Маккартни. Нас интересует сам Пол Маккартни.
Не только картина Ван Гога — но человек, который её написал.
Не только разговор — но люди, которые сидели друг напротив друга.

И здесь между Альтманом и Маском появляется особенно интересное расхождение.

Маск рассуждает гораздо радикальнее.
Если искусственный интеллект станет умнее человека практически во всех областях, производство товаров и услуг станет почти бесплатным, а экономика приблизится к состоянию изобилия, неизбежно возникает вопрос: какая функция тогда вообще останется у человека?

В его картине будущего это один из самых тревожных вопросов.

У Альтмана ответ почти противоположный.
Он не ищет для человека новую производственную функцию.
Он фактически говорит: возможно, ценность человека вообще не обязана заключаться в том, чтобы быть самым эффективным производителем результата.

Машина может написать текст лучше.
Нарисовать лучше.
Запрограммировать быстрее.
Проанализировать больше данных.

Но человек всё равно может хотеть слушать другого человека, смотреть созданное человеком и разговаривать с человеком.

Это принципиально разные представления о ценности.

Маск спрашивает: что останется человеку делать?

Альтман словно отвечает: возможно, дело вообще не в том, что ему останется делать. Дело в том, кем он останется.

И это, пожалуй, одна из самых важных развилок всей сегодняшней дискуссии об искусственном интеллекте.

Чем больше окружающий мир будет наполнен синтетическим содержанием, тем сильнее может стать ценность простой метки:
это сделал человек.

Так что распространённая идея о том, что AI неизбежно обесценит человеческое творчество, вполне может оказаться слишком примитивной.

Он может обесценить производство контента.

Но одновременно увеличить стоимость человеческого происхождения.

Два риска: машина выйдет из-под контроля — или контроль получит кто-то другой

Когда разговор доходит до безопасности искусственного интеллекта, Альтман выделяет два принципиально разных риска.

Первый хорошо известен.
Мы создаём чрезвычайно мощную систему и однажды перестаём полностью её контролировать.

Но второй риск Альтман считает не менее серьёзным:
что контроль сохранится — только окажется сосредоточен у очень небольшого числа людей.

У правительства.
У корпорации.
У владельца модели.
У группы людей, способных определять, какую информацию система выдаёт, какие решения считает допустимыми и какое поведение разрешает миллионам пользователей.

Альтман резко выступает против логики «отдайте нам часть своей свободы, а мы гарантируем вам безопасность», называя такую сделку по сути античеловеческой.

Слова довольно примечательные для человека, возглавляющего одну из компаний, которые потенциально и могут получить такую власть.

Именно поэтому здесь не помешает здоровый скепсис.

Разговор о децентрализации власти звучит прекрасно.

Но по мере превращения нескольких AI-платформ в посредников между человеком и информацией вопрос становится вполне практическим:
кто определяет границы поведения модели?

Кто решает, что она покажет?
Что скроет?
Чему даст более высокий приоритет?
Какую информацию запомнит о пользователе?
И можно ли будет забрать этот накопленный цифровой контекст и уйти к другому поставщику?

В мире поисковиков мы хотя бы выбирали, куда пойти за информацией.
В мире персональных AI-агентов посредник может находиться рядом с человеком постоянно.

Разница огромная.

И здесь позиции Альтмана и Маска удивительно сближаются.

Оба боятся концентрации власти.
Оба считают сверхмощный AI потенциально опасным.

Но акценты у них разные.

У Маска страх прежде всего направлен вперёд — на систему, которая однажды может стать настолько умнее человека, что человеческий контроль потеряет смысл.

У Альтмана значительная часть тревоги направлена на настоящее — на людей, которые контролируют систему сегодня.

Получается два разных сценария потери свободы.

В одном случае решение начинает принимать машина.

В другом — машина остаётся инструментом, но тот, кто владеет этим инструментом, получает слишком большую власть над остальными.

И трудно сказать, какой сценарий неприятнее.

Возможно, второй даже реалистичнее, потому что для него не требуется ждать сверхинтеллекта.
Достаточно, чтобы несколько AI-систем стали главными посредниками между человеком и информацией.

При этом Альтман значительно спокойнее Маска

И вот здесь между ними уже настоящий разрыв.

Маск на протяжении многих лет говорит об искусственном интеллекте как о технологии, способной привести человечество к событию, после которого привычные прогнозы вообще перестанут работать.

Сингулярность.
Сверхинтеллект.
Невозможность предсказать, что будет дальше.

В его картине будущего присутствует почти экзистенциальная тревога: мы строим систему, последствия появления которой сами не способны представить.

Альтман в новом интервью звучит заметно спокойнее.

Он считает, что многие катастрофические прогнозы прошлых лет пока не реализовались, а постепенный выпуск всё более мощных моделей позволял учиться на реальном опыте и исправлять проблемы по мере их появления.

Итеративное внедрение, считает он, позволило добиться большего прогресса в безопасности, чем ожидалось.

Звучит успокаивающе.

Но здесь возникает занятное противоречие.

Альтман одновременно признаёт, что мы приближаемся к системам, которые могут превосходить самых умных людей.

То есть его аргумент фактически звучит так:
до сих пор постепенный подход работал — поэтому будем надеяться, что он продолжит работать и тогда, когда характер самой технологии изменится.

Маск в этом месте, вероятно, возразил бы: именно такой переход и есть момент, после которого опыт прошлого перестаёт быть надёжным ориентиром.

И вот здесь я бы не спешил выбирать одного из них.

Альтман прав в одном: пока история AI действительно выглядит гораздо менее катастрофично, чем самые мрачные прогнозы десятилетней давности.

Маск прав в другом: отсутствие катастрофы при системах уровня сегодняшних моделей ничего не доказывает относительно мира, в котором существуют системы значительно умнее человека.

Они спорят не столько о сегодняшнем AI.

Они по-разному оценивают точку, после которой сегодняшние правила перестанут действовать.

Настоящий персональный AI должен знать о нас почти всё

Ещё один фрагмент интервью выглядит почти буднично, хотя последствия у него намного серьёзнее.

Альтман рассказывает, что сегодня ограничением становится уже не столько интеллект модели, сколько недостаток контекста о самом пользователе.

Он хочет, чтобы AI мог видеть больше.

Например, читать внутренний Slack OpenAI.
Изучать истории клиентов.
Читать исследования, до которых сам Альтман физически не успевает добраться.
Следить за информацией, относящейся к его работе.

А затем использовать всё это, когда необходимо принять решение.

И здесь мы постепенно подходим к настоящему AI-агенту.
Не к чат-боту, которому каждый разговор приходится начинать практически заново.

А к системе, которая знает:
что вы делали вчера;
над чем работаете;
с кем общаетесь;
какие документы читали;
какие решения принимали;
какие ошибки совершали;
что считаете важным;
что обещали сделать;
какие у вас планы.

Человеческий помощник физически не способен прочитать десятки тысяч страниц вашей жизни за несколько секунд.

Модель — способна.

По мнению Альтмана, именно здесь может появиться совершенно новый способ работы с AI.

И одновременно здесь находится один из самых больших нерешённых вопросов всей персональной AI-революции.

Чтобы стать действительно полезным, искусственный интеллект должен знать человека очень хорошо.
Возможно — лучше, чем любой другой человек.

Но чем полезнее становится такой помощник, тем больше личной информации ему необходимо доверить.

Получается любопытный обмен:
мы получаем интеллект —
и расплачиваемся контекстом собственной жизни.

И здесь снова интересно сравнить Альтмана с Маском.

Маск смотрит на AI преимущественно как на растущий внешний интеллект — систему, которая становится всё мощнее и в конце концов может превзойти человечество.

У Альтмана виден другой путь: интеллект не просто становится сильнее — он постепенно врастает в жизнь конкретного человека.

Один сценарий ведёт к сверхинтеллекту над нами.

Другой — к интеллекту рядом с нами.

Но если персональный AI действительно будет помнить почти всё, что мы читали, писали, обсуждали и решали, граница между этими сценариями становится довольно тонкой.

Потому что система, которая знает о вас больше любого другого человека и помогает принимать важные решения, получает влияние совсем другого масштаба, чем обычная программа.

И здесь прежний вопрос Маска о контроле неожиданно возвращается в более бытовой форме:
кто кем пользуется — человек AI или AI человеком?

OpenAI хочет строить не набор продуктов, а платформу

В интервью Альтман довольно чётко объясняет, какой он видит саму OpenAI.
Не фабрикой приложений.
Платформой.

По его словам, пользователю в конечном счёте нужен один интерфейс к персональному или корпоративному AI, способному помогать с любыми задачами.
А разработчикам — API, поверх которого они смогут создавать собственные продукты.

Формула удивительно простая:
один AI для человека + один API для всего остального.

И это объясняет некоторые довольно радикальные решения внутри OpenAI.

Альтман рассказывает, что компания отказалась от самостоятельного развития Sora и браузера Atlas, хотя считает оба продукта хорошими.
Причина — ограниченность ресурсов.
Вычислительные мощности.
Люди.
Время.

Вместо распыления ресурсов OpenAI решила сосредоточиться на развитии общего интеллекта для интеллектуального труда, а в перспективе — для науки.

Это уже говорит о стратегии намного больше, чем очередной запуск продукта.
OpenAI не хочет сама построить все приложения будущего.
Она хочет находиться под ними.

Примерно так же, как операционная система находится под приложениями или электрическая сеть — под бытовой техникой.

Если такой план сработает, главный бизнес OpenAI будет заключаться не в том, чтобы убедить человека пользоваться конкретной программой.

Главным продуктом станет сам интеллект.

И этот интеллект потребует инфраструктуры почти цивилизационного масштаба

За всей лёгкостью разговора о персональных помощниках находится гораздо менее романтичная реальность.
AI необходимо на чём-то запускать.

Альтман называет расширение вычислительной инфраструктуры потенциально самым дорогим инфраструктурным проектом в истории.

Чипы.
Фабрики полупроводников.
Дата-центры.
Электроэнергия.
Сети.
Цепочки поставок.
Финансирование.
Государственная политика.

Поэтому история искусственного интеллекта постепенно перестаёт быть исключительно историей программного обеспечения.

Она становится историей промышленности.
Энергетики.
Капитала.
И геополитики.

Чтобы цифровой собеседник мгновенно ответил на вопрос на экране телефона, где-то должны стоять здания размером с промышленный комплекс и потреблять вполне физическую электроэнергию.

AI выглядит невесомым только на экране.

За экраном он становится одним из самых материальных проектов XXI века.

Маленькая компания может получить возможности большой

На этом фоне Альтман делает ещё один прогноз: AI способен вызвать крупнейший в истории бум появления небольших компаний.

Логика понятна.

Раньше для создания серьёзного бизнеса требовалась команда.
Программисты.
Дизайнеры.
Аналитики.
Маркетологи.
Юристы.
Поддержка.
Финансовые специалисты.

Теперь часть этих функций постепенно могут выполнять AI-системы.

Это не означает, что один человек завтра построит новый Apple.
Но размер команды, необходимой для создания продукта определённого масштаба, очевидно уменьшается.

Альтман ожидает резкого роста числа небольших предприятий именно благодаря этому эффекту.
И если этот прогноз окажется верным, AI изменит не только рынок труда.
Он изменит само понятие компании.

Возможно, через десять лет нас будет меньше удивлять корпорация из ста тысяч сотрудников и гораздо больше — бизнес стоимостью миллиард долларов, в котором работают двадцать человек и несколько тысяч AI-агентов.

Возможно, главное различие между Маском и Альтманом вообще не в прогнозах

Они оба считают развитие искусственного интеллекта чрезвычайно важным.
Оба допускают появление интеллекта, превосходящего человеческий.
Оба говорят о колоссальных экономических изменениях.
Оба опасаются концентрации власти и потери контроля.

Различие скорее в том, откуда каждый смотрит на будущее.

Маск смотрит на него как физик.
Он видит ускоряющуюся систему и пытается продолжить траекторию до предела.
Если вычислительная мощность растёт, модели становятся умнее, автоматизация ускоряется — значит, где-то впереди находится точка, после которой человеческая цивилизация станет другой.

Альтман смотрит на будущее скорее как предприниматель и разработчик продукта.
Его интересует следующий шаг.
Как заставить человека пользоваться AI естественнее?
Как дать модели больше контекста?
Как построить правильный интерфейс?
Как встроить агента в работу?
Как постепенно выпускать более мощные системы и смотреть, что происходит?

Поэтому Маск постоянно спрашивает:
«К чему всё это приведёт?»

Альтман чаще спрашивает:
«Что нам нужно сделать следующим?»

И, пожалуй, именно поэтому слушать их подряд особенно интересно.

Один пытается увидеть конец дороги.
Другой занят строительством следующего километра.
Но дорога у них, похоже, одна.

Но самое интересное в интервью — не технологии

После часа разговора остаётся странное ощущение.

Человек, управляющий одной из главных AI-компаний мира, говорит вовсе не о том, что искусственный интеллект сейчас упирается в нехватку интеллекта.

Наоборот.

Технология уже достаточно хороша, чтобы начать менять фундаментальные вещи.

Но человек пока продолжает жить по старым правилам.
Мы всё ещё сами разгребаем почту.
Открываем программы.
Ведём списки задач.
Строим компании по организационным схемам XX века.
Привыкаем оценивать работу количеством часов, проведённых за экраном.
И пытаемся использовать искусственный интеллект как ещё одну программу внутри привычного компьютера.

Возможно, именно поэтому Альтман говорит о недостающем «iPhone-моменте».

Настоящая революция начнётся не тогда, когда очередная модель станет на двадцать процентов умнее предыдущей.

Она начнётся тогда, когда нам больше не придётся думать о том, как пользоваться искусственным интеллектом.

Мы просто будем говорить, чего хотим.
А система будет знать достаточно о нас и окружающем мире, чтобы понять всё остальное.

И вот здесь возникает вопрос гораздо интереснее традиционного «заменит ли AI человека».

Если искусственный интеллект сможет читать больше нас, помнить больше нас, анализировать быстрее нас и выполнять большую часть цифровой работы самостоятельно —
что именно останется нашей работой?

Маск в своих рассуждениях доводит этот вопрос почти до предела: если машина сможет делать практически всё лучше и дешевле человека, какая функция останется у самого человека?

Альтман, как ни странно, даёт более спокойный и гораздо более человеческий ответ.
Решать, чего мы хотим.
Выбирать.
Строить отношения.
Интересоваться другими людьми.
Создавать смыслы.

То есть чем мощнее становится машина, тем важнее может оказаться всё то, что раньше казалось слишком обыденным, чтобы считать это уникальной человеческой способностью.

И, возможно, главный перелом действительно ещё впереди.

Только это будет не момент, когда искусственный интеллект окончательно станет умным.

Он уже достаточно умён.

Это будет момент, когда мы наконец научимся рядом с ним жить.

После логина всё только начинается.