Глава компании OpenAI Сэм Альтман — о прогрессе с помощью искусственного интеллекта сейчас и в недалеком будущем

Глава компании OpenAI Сэм Альтман в блоге компании привел данные о ресурсопотреблении ChatGPT. Также в публикации дается его оценка прогресса с помощью искусственного интеллекта сейчас и в недалеком будущем.

Человечество близко к созданию цифрового сверхразума. Роботы еще не ходят по улицам, и большинство из нас не общаются с искусственным интеллектом (ИИ) целый день. Люди все еще умирают от болезней, мы все еще не можем легко отправиться в космос, и во вселенной есть много того, чего мы не понимаем.

И все же, мы недавно создали системы, которые во многих отношениях умнее людей и способны значительно усилить результаты людей, использующих их.  ИИ внесет свой вклад в мир во многих отношениях. Прирост качества жизни от ИИ, способствующего более быстрому научному прогрессу и повышению производительности, будет огромным. Будущее может быть намного лучше настоящего. Научный прогресс является важнейшим двигателем общего прогресса.

В каком-то большом смысле ChatGPT уже более мощный, чем любой человек, который когда-либо жил. Сотни миллионов людей полагаются на него каждый день и для решения все более важных задач. Небольшая новая возможность может создать огромное положительное влияние. Небольшое несоответствие, умноженное на сотни миллионов людей, может вызвать огромное отрицательное влияние.

в 2025 году уже появились ИИ-программы, которые могут выполнять настоящую умственную (когнитивную) работу. Отныне написание компьютерного кода никогда не будет прежним. В 2026 году, возможно, появятся системы, которые смогут самостоятельно создавать новые идеи. А в 2027 году велика вероятность того, что появятся роботы, которые смогут выполнять задачи в реальном мире.

Мы уже слышим от ученых, что они стали в два-три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, на мой взгляд, более важен тот факт, что мы можем использовать его же для более быстрого исследования ИИ. Мы можем открыть новые вычислительные субстраты, лучшие алгоритмы и бог знает что еще. Если мы сможем проводить исследования с помощью ИИ за год или месяц, а раньше мы тратили на это 10 лет, то скорость прогресса будет совершенно другой.

Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет гораздо больше и того, и другого, и эксперты, вероятно, все равно будут намного лучше новичков, если они будут использовать новые инструменты. В целом, способность одного человека сделать гораздо больше в 2030 году, чем он мог бы сделать в 2020 году, станет поразительным изменением, и многие люди поймут, как извлечь из этого пользу.

В наиболее важных отношениях 2030-е годы, возможно, не будут кардинально отличаться. Люди по-прежнему будут любить свои семьи, выражаться в творчестве, играть в игры и плавать в озерах.

Но в еще более важных отношениях 2030-е годы, вероятно, будут кардинально отличаться от любого времени, которое было раньше. В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут чрезвычайно плодотворными. Эти два фактора долгое время были основными ограничителями человеческого прогресса. С изобилием интеллекта и энергии (и хорошим управлением) мы теоретически можем иметь, что угодно еще.

Мы уже живем с невероятным цифровым интеллектом. После некоторого первоначального шока большинство из нас  привыкли к нему. Очень быстро мы переходим от удивления, что ИИ может сгенерировать прекрасно написанный абзац, к удивлению, когда он может сгенерировать прекрасно написанный роман; от удивления, что он может ставить спасающие жизни медицинские диагнозы, к удивлению, когда он может разработать лекарства; от удивления, что он может создать небольшую компьютерную программу, к удивлению, когда он может создать целую новую компанию. Так чудеса становятся рутиной.

Мы уже слышим от ученых, что они в два или три раза продуктивнее, чем были до ИИ. Продвинутый ИИ интересен по многим причинам, но, возможно, ничто не столь значимо, как тот факт, что мы можем использовать его для более быстрого проведения исследований ИИ. Мы можем открыть новые вычислительные субстраты, лучшие алгоритмы и кто знает что еще. Если мы сможем провести десятилетние исследования за год или месяц, то скорость прогресса, очевидно, будет совершенно другой.

Инструменты, которые мы уже создали, помогут нам найти дальнейшие научные идеи и помогут нам в создании лучших систем ИИ.

Создание экономической стоимости запустило маховик создания сложной инфраструктуры для работы все более мощных систем ИИ. Роботы, которые смогут строить других роботов (и в некотором смысле центры обработки данных, которые могут строить другие центры обработки данных), не так уж далеки.

Допустим, нам придется создать первый миллион человекоподобных роботов старомодным способом. Но затем они смогут управлять всей цепочкой поставок — копать и перерабатывать минералы, водить грузовики, управлять заводами, чтобы построить больше роботов, которые могут строить больше предприятий по производству чипов, центров обработки данных и т.д. Скорость прогресса, очевидно, будет совсем другой.

По мере автоматизации работы центров обработки данных стоимость интеллектуальных ресурсов в конечном итоге должна приблизиться к стоимости электроэнергии. Люди часто интересуются, сколько энергии потребляет запрос ChatGPT. Средний запрос потребляет около 0,34 ватт-часов, что примерно равно тому, сколько духовка потребляет за секунду или высокоэффективная лампочка за пару минут. Она также потребляет примерно одну пятнадцатую чайной ложки воды.

Скорость технологического прогресса будет продолжать ускоряться. Люди по-прежнему смогут адаптироваться практически ко всему. Будут очень ситуации, такие как исчезновение целых групп рабочих мест. С другой стороны, мир будет становиться настолько богаче и так быстро, что мы сможем серьезно рассматривать новые идеи, о которых раньше и помыслить не могли. Мы, вероятно, не примем новый общественный договор сразу, но если мы оглянемся назад через несколько десятилетий, оценим перемены.

Мы найдем новые занятия и новые желания, быстро освоим новые инструменты (хорошим примером является смена работы после промышленной революции). Ожидания будут расти, но возможности будут расти так же быстро, и мы все получим лучшее. Мы будем создавать все более замечательные вещи друг для друга. У людей есть долгосрочное важное и любопытное преимущество перед ИИ: мы запрограммированы заботиться о других людях, о том, что они думают и делают, и нас не очень волнуют машины.

Фермер, живущий натуральным хозяйством, тысячу лет назад посмотрел бы на то, что делают многие из нас, и подумал бы, что мы просто играем в игры, чтобы развлечь себя, поскольку у нас много еды и предметов роскоши.

В перспективе скорость достижения новых чудес будет колоссальной. Сегодня даже трудно представить, что мы откроем к 2035 году. Может быть, мы перейдем от решения физики высоких энергий в один год к началу колонизации космоса в следующем году; или от крупного прорыва в материаловедении в один год к настоящим высокоскоростным интерфейсам мозг-компьютер в следующем году. Многие люди выберут прожить свою жизнь примерно также, как сейчас живут. Но некоторые люди, вероятно, решат «подключиться».

«Заглядывая вперед» — это звучит сложно для понимания. Пережить скачок в прогрессе  будет впечатляюще, но управляемо. Существуют серьезные проблемы, с которыми придется столкнуться наряду с огромными преимуществами. Нам действительно нужно решить проблемы безопасности, как в техническом, так и в социальном плане. Критически важно широко распространить доступ к сверхинтеллекту, учитывая экономические последствия.

Лучший путь вперед может быть таким:

Решить проблему согласования, то есть мы можем надежно гарантировать, что мы заставим системы ИИ учиться и действовать в соответствии с тем, чего мы коллективно действительно хотим в долгосрочной перспективе (ленты социальных сетей являются примером несогласованного ИИ; алгоритмы, которые их поддерживают, невероятно заставляют вас продолжать прокручивать и четко понимать ваши краткосрочные предпочтения, но они делают это, эксплуатируя что-то в вашем мозгу, что переопределяет ваши долгосрочные предпочтения).

Затем сосредоточьтесь на том, чтобы сделать сверхинтеллект дешевым, широко доступным и не слишком сосредоточенным на каком-либо человеке, компании или стране. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя мы сделаем много ошибок и что-то пойдет совсем не так, мы быстро научимся и адаптируемся и сможем использовать эту технологию, чтобы получить максимальный плюс и минимальный минус. Предоставление пользователям большой свободы в широких рамках, которые общество должно определить, кажется очень важным. Чем раньше мир сможет начать обсуждение того, что такое эти широкие границы и как мы определяем коллективное соответствие, тем лучше.

Мы — вся отрасль, а не только OpenAI —  создаем мозг для мира. Он будет чрезвычайно персонализированным и простым в использовании для всех. Мы будем ограничены хорошими идеями. Долгое время технические специалисты в индустрии стартапов высмеивали «идейных парней», людей, у которых была идея. Они искали команду для ее реализации. Теперь мне кажется, что они вот-вот получат свой день под солнцем.

OpenAI — прежде всего, исследовательская компания сверхразума. Перед нами много работы, но большая часть пути перед нами теперь освещена, а темные области быстро отступают. Мы чувствуем себя необычайно благодарными за то, что можем делать то, что делаем.

Интеллект, слишком дешевый для измерения, вполне достижим. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что мы будем там, где мы есть сегодня, это, вероятно, звучало бы более безумно, чем наши текущие прогнозы о 2030 году.

И далее мы будем масштабироваться плавно, без происшествий, с помощью сверхразума.

Источник — Блог Альтмана

На SREDA.UZ перевод с английского сделан с помощью ИИ.

Добро пожаловать на канал SREDA.UZ в Telegram

Добавить комментарий Отменить ответ

Ваш e-mail не будет опубликован.

Комментарий

Имя

E-mail

Сайт

 −   =  ноль

Введите код с картинки (CAPTCHA)*

 Notify me when new comments are added.

Получать новые комментарии по электронной почте. Вы можете подписаться без комментирования.

Еще статьи из Экориски