Нестеров А.В. Стоит ли верить Р. Саттону и его призывам передать власть преемственному искусственному интеллекту? М.: электронный препринт, сентябрь 2023. 5 с. URL: www.nesterov.su
Аннотация. Провал глобализма, заставляет некоторых людей искать новые подходы к стремлению оставаться у власти. Один из них – заставить людей поверить Новому Интеллектуальному Богу и передать ему власть. Для этого надо запугать людей очередным апокалипсисом в виде захвата власти искусственным интеллектом и предложить выход в виде создания преемственного искусственного интеллекта.
Ключевые слова: план Альберта, смарт-системы, смартизация, виртуализация, медиатизация, суверенизация.
Nesterov A.V. Is it worth believing R. Sutton and his call to transfer power to a successor artificial intelligence? M.: electronic preprint, September 2023. 5 p. URL: www.nesterov.su
Annotation. The failure of globalism is forcing some people to look for new approaches to stay in power. One of them is to make people believe in a New Intellectual God and transfer power to him. To do this, it is necessary to intimidate people with another apocalypse in the form of the seizure of power by artificial intelligence and offer a way out in the form of the creation of a successor artificial intelligence.
Keywords: Albert’s plan, smart systems, smartization, virtualization, mediatization, sovereignization.
Недавно С. Карелов обратил внимание на доклад одного из «отцов основателей» интернета Р. Саттона «Преемственность артефактного интеллекта». URL: https://dzen.ru/a/ZQBaMf-z8BDnXC6w .
В своем докладе Саттон кратковременно показал схему AI Succession, представляющую агента, который может формировать подзадачи, и не является актором, обладающим самостоятельным устремлением.
Этот агент способен наблюдать (получать данные), воспринимать их и формировать свое состояние с учетом обратной связи и потока внутренних действий. На выходе Блока состояний имеются три стрелки, связывающие его с Блоком Модели (переходного периода), формирующего планы, Блоками реактивной политики и Блоками функциональной ценности, которая подкрепляется вознаграждениями.
Саттон очень кратко и не связанно дал описание работы этой схемы, из которого следует, что агент обучается, анализируя вектор состояний с помощью обратной связи обучения и косвенно влияет на политику агента и Модель мира. Эта Модель в свою очередь также косвенно влияет на политику агента.
Основная идея Саттона заключается в смене носителя интеллекта, т.е. передаче власти преемственному интеллекту без учета мнений всего человечества, а также естественных пределов, которые, наверное, не позволят это сделать. Странно выглядит развитие интеллекта в виде перехода от человеческого интеллекта к двоичному разуму, умное функционирование которого приравнено к умственным способностям человека.
Этот проект ИИ (план Альберт) подразумевает создание очередной метафоры ИИ с неявных либеральных позиций в виде свободы и прав ИИ, который должен стать преемником интеллекта человечества.
Считается, что такой ИИ будет умнее человечества, типа доброго Бога, поэтому надо подумать о преемственности ИИ в виде передачи ему интеллектуальной эстафеты, чтобы избежать войн между людьми.
На наш взгляд, это очередной подход, когда технически более высокие государства применяли свои инструменты для добровольного ограбления туземцев (обмена ресурсов на бусы).
Похоже, это очередная утопия по созданию идеального общества, в котором вместе с био-носителями интеллекта будут иные носители в виде ИИ. При этом люди займут более скромное место, а ИИ будет создавать для них лучшее условия жизни.
Саттон использует слова «обучение и мета-обучение» без расшифровки, что такое обучение и его соотношение с дрессировкой. Также скрываются значения понятий интеллекта, политики, реакции, агента и т.д., – как само-разумеющиеся.
Почему мы должны верть на слово еще одному проповеднику, что единственный путь человечества, это осознать неизбежность и следовать плану передачи дел наследникам в виде инструментов, которые могут быть созданы технократами-цифровиками в корыстных целях.
До тех пор, пока не будет теоретически опровергнуты естественные пределы, определяющие невозможность построения общего (универсального) ИИ, нет необходимости пугать людей, отвлекая их от действительных проблем, которые подразумевают создание инструментов военной угрозы и/или негативного психосоциального воздействия на сознание как минимум одного человека, а также на его психику, минуя сознание.
Такие инструменты, созданные в одном государстве, ратующим за свободу ИИ, фактически позволят такой стране от имени ИИ, доминировать в мире и создавать монополии в корыстных целях.
Отметим, что некоторые люди считают, что диалоговые ИИ (чат-боты) или метаверсы [1] – это игрушки, а вот ИИ в промышленности – это серьезное занятие. Нельзя недооценивать генеративный ИИ, продуцирующий смарт-медиапродукты, которые могут существенно влиять на мышление людей. За примером далеко ходить не надо, просто посмотрим на наших соседей.
Есть ли смысл, создав самолет, не подобный птицам, создавать человекоподобной разум. Зачем разработчики используют метафору «интеллект» для обозначения артефактного разума, если они не знают, что такое интеллект? Для того, чтобы привлечь инвестиции у чиновников и/или бизнеса.
Разработчиков движет доминантность, которая выражается в первенстве и возможности войти в историю, если не считать их текущие расходы на себя.
Проблема не в ИИ, LLM, их мощности и/или количестве в отраслях деятельности, а в мета-онтологии [2], на основе которой они должны быть построены, а также в установленных пределах, допусках и/или лимитах, в частности, юридических, и/или квалификации людей, которые их будут применять.
Смартизация жизни и/или деятельности людей приведет к необходимости смарт-системной суверенизации РФ. Китай и некоторые другие государства уже сформулировали смарт-инициативы, в рамках которых будут развиваться смарт-системы и смарт-продукты.
Хотя смарт-системы могут обладать смарт-интерфейсами для общения с людьми, для профессиональной работы со смарт-системами должны быть квалифицированные операторы, поэтому необходимо не профильное, а профессиональное и/или специализированное образование. В общем случае, интерфейсы могут состоять из интерфейса разработчика, пользователя и/или межсистемного.
Смарт-системы должны быть холистическими: жизнеспособными (способными масштабироваться), позволять качественно развиваться (обладать трансдуктивностью) и/или адаптироваться в окружение (быть экологичными).
Люди, работающие со смарт-системами, должны уметь выбирать приоритеты в пространстве устремлений в виде целей, ценностей и/или иных благ.
Если ценности и подкрепления будут формировать отдельные люди, в том числе зависимые от власти и денег «цифровики», то понятно какой будет интеллектуальный преемник. Нужно разумное многообразие смарт-систем, интерфейсы которых унифицированы.
Выводы. Неудачная либеральная глобализация поставила перед человечеством вопрос дальнейшего пути качественного развития, который точно не будет решен ИИ. Сейчас важным является суверенизация национальных государств в рамках международного разделения труда, коммуникации и логистики. Смартизация, виртуализация и медиатизация могут помочь людям найти международный динамический баланс в сотрудничестве, а не в конфронтации.
Список ссылочных публикаций
- Нестеров А.В. МЕТА-метафора (метафора metaverse) как очередной хайп магнатов Биг-Тех. М.: электронный препринт, январь 2022. 4 с. URL: www.nesterov.su
- Нестеров А.В. Об унификации концептуальной модели мета-онтологии // Научно-техническая информация. Серия 1: организация и методика информационной работы. 2019. №3. С. 1-5. [Nesterov A.V. On the Unification of the Conceptual Model of the Meta-Ontology // Scientific and Technical Information Processing, 2019, Vol. 46, No. 1, pp. 34–37.].