![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
В последние годы искусственные нейронные сети сделали впечатляющий рывок. Инвестиции в эту область растут вместе с ожиданиями, и можно предположить, что скоро мы увидим рывок куда больший. Предстоящий релиз рассуждающей модели о3, способной решать многие задачи на равных с самыми одарёнными людьми, и заявление CEO OpenAI Альтмана, что полноценный AGI может появиться уже в этом году, заставили задуматься: чего я жду от ИИ, какие изменения он принесёт в нашу жизнь? В сети хватает прогнозов на любой вкус, но, раз уж я слегка фантаст - ниже мой вариант развития событий, разделённый на три этапа.
* Искусственный аналог сознания: ИИ, способный к планированию, оценке ситуации во времени и смене приоритетов; не только отвечающий на запросы, но самостоятельно размышляющий и действующий. И, конечно, решающий любые интеллектуальные задачи как минимум не хуже человека.
* Масштабирование: теперь нейросети не ограничены размером контекстного окна и умеют работать с проектами, многократно превышающими его размер.
* Первые искусственные личности, в общении достоверно имитирующие человека со своим кругом интересов и жизненным опытом. Пока бестелесные, но с демонстрацией своего образа и эмоций на экране. Помимо прочего, их начинают использовать как преподавателей, что радикально меняет систему образования.
* Интеграция продвинутых нейросетей с различными программами - от видеоредакторов и пакетов математических вычислений до систем управления предприятиями. Это придаёт ИИ много новых способностей и ставит под удар многие интеллектуальные профессии.
* Зарождение глобальной сети интеллектуальных агентов - возможно, с неким универсальным языком для общения, а также встроенным протоколом финансовых транзакций. В такой сети, скажем, продвинутые универсальные агенты могли бы распределять задачи между более дешевыми специализированными, тем самым экономя вычислительную мощность; или объединяться в подсети для решения масштабных проблем.
* Революция дронов в военном деле приближается к логическому итогу: полностью автономные камикадзе с распознаванием цели, бегающие дроны-солдаты и дроны-танки, рои дронов, микродроны для разведки и диверсий. Ведётся разработка машинных систем для управления современным боем, за которым человек уже не успевает. Роботы также входят в состав полицейских патрулей.
* Роботы развиваются в достаточной мере, чтобы заместить любой физический труд, не требующий тонкой координации: грузчики больше не соревнуются в швырянии багажа на дальность; количество людей в строительстве, сельском хозяйстве и просто за конвейером начинает сокращаться.
* Полностью автономный транспорт на дорогах общего пользования;
* Продвинутые нейроинтерфейсы, позволяющие силой мысли управлять различными приборами или передавать сообщения, а также получать ответы непосредственно на слуховой нерв.
* ИИ стремительно меняет искусство: совместные работы людей и нейросетей вытесняют human-only произведения; зарождаются новые виды искусства, способные подстраиваться к личному восприятию и вести диалог со зрителем.
* Значительно ускоряется развитие науки и технологий. Аналоги Copilot, помогающего в написании программного кода (только более продвинутые), появляются во многих областях знаний; также применяются искусственные рецензенты.
* Наводнение на рынке труда - в том смысле, что люди, не успевшие забраться достаточно высоко, уходят под воду. Уцелеют те, кто занимает руководящие должности; эксперты в различных областях, способные контролировать результаты работы ИИ; также люди, способные самостоятельно вести крупные проекты, ставя задачи ИИ и общаясь с заказчиком. Дольше других протянут работники в относительно консервативных сферах, вроде госслужбы, и редкие специальности, автоматизация которых не даёт больших выгод.
* Масштабные общественные протесты, всемирный политический кризис: десятки миллионов работников оказываются на улице, и ещё большее число людей сознаёт, что они следующие. Правительства крупнейших держав пытаются выработать согласованную политику, поддержать малоимущих и ввести применение ИИ в какие-то рамки. Технологические компании, чья власть и влияние многократно возросли, стремятся свести ограничения к минимуму.
III Этап. Сверхинтеллект. Технологическая сингулярность (предположим, через 10 -15 лет)
* Искусственный интеллект выходит на новый уровень - теперь самые продвинутые системы ИИ уже не нуждаются в дорогостоящей процедуре тренировки, и могут усваивать знания как человек - из книг и фильмов, или просто изучая окружающий мир. Наконец, они становятся способны к самостоятельному развитию, а также конструированию всё более продвинутых "потомков". Такой ИИ, вероятно, сможет одновременно анализировать информацию с миллионов камер, самостоятельно управлять крупными предприятиями, а то и целыми государствами. А по профилю в соцсетях понимать людей лучше, чем они понимают себя сами - окончательно лишая смысла либеральную демократию в её нынешнем виде.
I этап - Искусственный интеллект стучится в двери. То, что разрабатывается или уже существует в том или ином виде, и последствия этих разработок (в ближайший год - два)
* Полноценная мультимодальность, объединяющая самые ценные инструменты ИИ: восприятие и генерация речи уровня chatGPT Advanced voice mode; анализ изображений, видео и документов; редактирование документов и генерация изображений; доступ в интернет; рассуждения; и, конечно, работу с текстом и программным кодом.
* Универсальные программы-ассистенты на основе мультимодальных сетей. Такой ассистент позволит работать с компьютерами и мобильными устройствами, просто давая указания вслух так же, как человеку.
* Улучшенный поиск в интернете, предоставляющий качественную выжимку информации в соответствии с указаниями, что, где и для чего искать.
* Первое поколение относительно самостоятельных агентов с зачатками планирования, способных выполнять задания на компьютере как обычный пользователь - например, обрабатывая входящую почту и внося соответствующие записи в документы. (С побочным эффектом мы уже знакомы - звонок в поддержку часто означает необходимость пробиться к оператору-человеку через тупого бота).
* Первое поколение гуманоидных роботов, которые будут работать у тестовых конвейеров.
* Сокращение найма офисного персонала, чья работа не требует высокой квалификации.
* Из очевидного: снижение до минимума или полное устранение "галлюцинаций" (в этом уже есть существенные успехи); дальнейшее увеличение контекстного окна; оптимизация структуры сетей, методов обучения и вычислений. Вероятно, частичный перенос вычислений на всё более мощные локальные устройства, чтобы высвободить сервера для более серьезных задач.
II этап. Полноценный ИИ (предположительно через три-пять лет)
* Искусственный аналог сознания: ИИ, способный к планированию, оценке ситуации во времени и смене приоритетов; не только отвечающий на запросы, но самостоятельно размышляющий и действующий. И, конечно, решающий любые интеллектуальные задачи как минимум не хуже человека.
* Масштабирование: теперь нейросети не ограничены размером контекстного окна и умеют работать с проектами, многократно превышающими его размер.
* Первые искусственные личности, в общении достоверно имитирующие человека со своим кругом интересов и жизненным опытом. Пока бестелесные, но с демонстрацией своего образа и эмоций на экране. Помимо прочего, их начинают использовать как преподавателей, что радикально меняет систему образования.
* Интеграция продвинутых нейросетей с различными программами - от видеоредакторов и пакетов математических вычислений до систем управления предприятиями. Это придаёт ИИ много новых способностей и ставит под удар многие интеллектуальные профессии.
* Зарождение глобальной сети интеллектуальных агентов - возможно, с неким универсальным языком для общения, а также встроенным протоколом финансовых транзакций. В такой сети, скажем, продвинутые универсальные агенты могли бы распределять задачи между более дешевыми специализированными, тем самым экономя вычислительную мощность; или объединяться в подсети для решения масштабных проблем.
* Революция дронов в военном деле приближается к логическому итогу: полностью автономные камикадзе с распознаванием цели, бегающие дроны-солдаты и дроны-танки, рои дронов, микродроны для разведки и диверсий. Ведётся разработка машинных систем для управления современным боем, за которым человек уже не успевает. Роботы также входят в состав полицейских патрулей.
* Роботы развиваются в достаточной мере, чтобы заместить любой физический труд, не требующий тонкой координации: грузчики больше не соревнуются в швырянии багажа на дальность; количество людей в строительстве, сельском хозяйстве и просто за конвейером начинает сокращаться.
* Полностью автономный транспорт на дорогах общего пользования;
* Продвинутые нейроинтерфейсы, позволяющие силой мысли управлять различными приборами или передавать сообщения, а также получать ответы непосредственно на слуховой нерв.
* ИИ стремительно меняет искусство: совместные работы людей и нейросетей вытесняют human-only произведения; зарождаются новые виды искусства, способные подстраиваться к личному восприятию и вести диалог со зрителем.
* Значительно ускоряется развитие науки и технологий. Аналоги Copilot, помогающего в написании программного кода (только более продвинутые), появляются во многих областях знаний; также применяются искусственные рецензенты.
* Наводнение на рынке труда - в том смысле, что люди, не успевшие забраться достаточно высоко, уходят под воду. Уцелеют те, кто занимает руководящие должности; эксперты в различных областях, способные контролировать результаты работы ИИ; также люди, способные самостоятельно вести крупные проекты, ставя задачи ИИ и общаясь с заказчиком. Дольше других протянут работники в относительно консервативных сферах, вроде госслужбы, и редкие специальности, автоматизация которых не даёт больших выгод.
* Масштабные общественные протесты, всемирный политический кризис: десятки миллионов работников оказываются на улице, и ещё большее число людей сознаёт, что они следующие. Правительства крупнейших держав пытаются выработать согласованную политику, поддержать малоимущих и ввести применение ИИ в какие-то рамки. Технологические компании, чья власть и влияние многократно возросли, стремятся свести ограничения к минимуму.
III Этап. Сверхинтеллект. Технологическая сингулярность (предположим, через 10 -15 лет)
Напомним, технологическая сингулярность означает момент истории, когда условный график научно-технического развития уходит в бесконечность. Перемены нарастают так стремительно, что практически не поддаются контролю, необратимо меняя отдельных людей и цивилизацию в целом. И, конечно, выходя за рамки любых прогнозов. Но тем интереснее попробовать. )
* Искусственный интеллект выходит на новый уровень - теперь самые продвинутые системы ИИ уже не нуждаются в дорогостоящей процедуре тренировки, и могут усваивать знания как человек - из книг и фильмов, или просто изучая окружающий мир. Наконец, они становятся способны к самостоятельному развитию, а также конструированию всё более продвинутых "потомков". Такой ИИ, вероятно, сможет одновременно анализировать информацию с миллионов камер, самостоятельно управлять крупными предприятиями, а то и целыми государствами. А по профилю в соцсетях понимать людей лучше, чем они понимают себя сами - окончательно лишая смысла либеральную демократию в её нынешнем виде.
* Робототехника развивается настолько, что способна заменить человека абсолютно в любой сфере деятельности, при этом будучи дешевле и надежнее. Появляются андроиды, практически неотличимые от людей. Также роботы обеспечат расширенное производство всё новых роботов. Экономика больше не зависит от человеческой рабочей силы, что потенциально делает возможными мегапроекты: скажем, произвести на Луне и разместить в точке Лагранжа систему зеркал, которая бы закрыла часть солнечного света и остановила глобальное потепление; полностью переработать весь накопленный человечеством мусор; основательно исследовать солнечную систему, не посылая экспедиций с людьми; вероятно, контроль погоды и климата, и многое другое.
* В искусстве ИИ превосходит человека настолько, что уровень созданного произведения определяется в первую очередь количеством затраченных на него вычислительных ресурсов. Теперь искусственный интеллект не только может сгенерировать великолепную картину или полноценный роман, но и создать по нему фильм без всяких съемок.
* Необратимо меняется религия. Рядом с чудесами, которые ежедневно творят технологии, откровения древних племён выглядят слишком убого даже для масс. Это приводит к появлению новых конфессий, а также новых технологических религий.
* Развитие военных технологий завершается интеграцией боевых роботов и управляющих программ в единую систему управления армией - аналог Skynet из фильма "Терминатор".
* Общественный строй - непредсказуемо, от утопии до антиутопии (в том числе религиозной - вполне можно представить себе роботизированную диктатуру, которая сможет обеспечивать следование бессмысленным религиозным ритуалам сколь угодно долго. Человеческие диктатуры рано или поздно деградируют и рассыпаются, но роботы смогут производить новых и поддерживать функционирование режима и после смерти диктатора)
* Рынок труда и уровень благосостояния общества - непредсказуемо: в диапазоне от безусловного базового дохода до классических будок самоубийств для "лишних людей". В дополнение к которым, кстати, можно ожидать появление целых лишних стран, поскольку дешевая рабочая сила в развивающихся странах перестанет иметь значение. Возможно, какие-то профессии будут защищены от внедрения ИИ законодательно, но вряд ли много.
* Научно-технический прогресс ускорится ещё больше: можно ожидать компактных термоядерных реакторов, ЭКО заменит искусственная матка и генетические модификации эмбрионов; медицина позволит выращивать и заменять практически любые органы. В перспективе, возможно, цифровое бессмертие (скажем, за счёт постепенной замены тканей мозга искусственными элементами, чтобы в итоге получить полностью цифровой мозг) и слияние человека с ИИ.
Что ж, подведём итоги. Собственный прогноз оставил у меня сложное чувство. Не в связи с кажущейся фантастичностью, а как раз наоборот: нечто подобное вполне может сбыться, и тогда к раздирающим человеческую цивилизацию конфликтам добавятся новые угрозы. Самые важные из них:
* Разрыв между могуществом ведущих держав / технологических компаний, и нищетой и бесправием большей части человечества, возрастёт ещё сильнее.
* Противостояние систем (как минимум США + союзники vs Китай + сателлиты), может привести к тому, что прогресс ИИ поставят выше любых ограничений безопасности и этических норм. Ведь, когда технологии развиваются экспоненциально, малейшее отставание от противника сейчас может дать огромный разрыв через несколько лет. А контролировать разработку ИИ так же, как проведение ядерных испытаний, невозможно.
* Наконец, глубинное противоречие между интеллектом и нравственным развитием бесшерстных обезьянок (по-прежнему склонных сбиваться в стаи и закидывать оппонентов подручными предметами), и могуществом технологий, которые, возможно, достались нам крайне преждевременно.
Искусственный интеллект, на мой взгляд, является финальной технологией - такой, которая может или положить конец существованию человечества, или перевести его на новый уровень, сделав по-настоящему разумным видом. Вопрос лишь в правильной постановке задачи. Быть может, "общество, ориентированное на развитие, а не наживу; в котором продвигают по заслугам и наказывают по закону; поддерживают слабых, но не позволяют играть на слабостях"? Или просто "счастья всем, и пусть никто не уйдёт обиженным"?
Впрочем, боюсь, многие власть предержащие будут ставить ИИ совсем другие задачи. Сохранить и преумножить личную власть. Сделать незыблемым свой набор суеверий и предрассудков. И тогда появятся (собственно, уже начали) коммунистический ИИ, правоверный исламский ИИ, и, разумеется, политкорректный инклюзивный ИИ с гендером на заказ.
Вопрос "что делать" заслуживает отдельного размышления. Пока ограничимся общими рекомендациями: крепить образование, сеять здравый смысл. И не забывать радоваться тому, в какое, всё-таки, интересное время нам выпало жить.
P. S.: При написании данной статьи ни один ИИ не пострадал не использовался.)
