В этом видео мы начинаем говорить о сложнейших нерешенных проблемах в AI и о потенциальных путях к их решению через психологию, социологию и… любые другие актуальные виды научных знаний!

Но как ориентироваться в этом гигантском пласте информации?

Чем вообще это всё может оказаться полезным для нас сегодня? Мы ведь еще не исчерпали потенциал нейронаук, не так ли?

Мы погружаемся в область, в которой, на данный момент, внятных ответов значительно меньше, чем вопросов. Так что запасайся ресурсами и гоу смотреть! Будет немного больно!

Роботы и зрелость

Если внедрение роботов в качестве «полноценных членов общества» однажды произойдет — мы толком этого и не заметим. Это не будет квантовым переходом, не будет сенсацией. Этот переход плавный и он давно идёт.

С другой стороны мы умудряемся реагировать полярно на текущие достижения в машинном обучении и смежных областях, одновременно и недооценивать и переоценивать их. Почему общество экстремально реагирует на достижения в области AI? И вообще на что-либо. К этому можно как-то подготовиться, спрогнозировать?

Кто-то прямо сейчас психотерапевтическую помощь от LLM пытается получить, а LLM и не в курсе об этом. Один и тот же ответ LLM может оказаться полезным для одного человека и очень вредным для другого. Как понять что будет разумным сегодня позволять делать роботу, а что нет? А человеку? Несмотря на красивые объективные данные, не так уж и хорошо мы понимаем в насколько сложных вопросах и в каких контекстах на ИИ сегодня можно положиться. Мы и с людьми то этого делать никогда не умели.

Как уровень зрелости AI соотносится со средним уровнем зрелости общества и наших лидеров в каких-либо сферах? Или же это фундаментально никогда не будет корректным пытаться сравнивать? Как ориентироваться во всём спектре того что умеем мы и что умеют роботы? Где там вообще границы, правильно ли мы их чертим?

По какому принципу сегодня люди пытаются понять уровень готовности других людей к ответственной работе разного уровня сложности? Как этот процесс можно бы было улучшить? Помогут ли с валидацией уровня способностей AI какие-либо инструменты, использующиеся сегодня для построения и масштабирования бизнеса? Или же это всё ложь, обман и инфорторгашайничество, просто разного уровня сложности и заблуждений?

Как ориентироваться в научных работах? И вообще в чем-либо, в период ускоряющегося роста объемов информации, когда каждый, включая меня, зачем-то пытается завлечь в свой дискурс. Зачем этот текст так бесцеремонно управляет твоим вниманием сейчас? Какой мотив у этого текста? Этот текст — лишь очередное нытьё? Крик души? Маркетинг-шмаркетинг? Выражение коллективного бессознательного, какую бы чепуху «коллективное бессознательное» ни значило бы для коллективного бессознательного? Попытка запутать очередного робота, который это всё зачем-то индексирует сейчас?

Непонятно. Текст сам по себе ничего не умеет. И сегодня он в один момент может стать неотличимым от выхлопов очередного генеративного Пелевина, а «автор» этого и не заметит. Так что всё что есть — это видео. В нем всё еще осталось что-то аутентичное, отличимое от нереальности.

00:00:00 Эмерджентность
00:00:38 Предупреждение
00:01:15 Зачем нам интегральный подход?
00:01:58 Зачем нам психология и социология?
00:03:51 Даже Андрей Себрант едва ли находит себе место, в связи с экзистенциальностью затронутой сегодня проблематики
00:05:13 Психология развития
00:06:18 Ценностное развитие
00:07:29 Мультипредупреждение
00:08:22 Откуда взялась «Спиральная динамика» (SD)?
00:09:53 Бэкграунд Кена Уилбера
00:11:02 Опять предупреждение?
00:11:30 Суть модели SD. Комбинация систем ценностей оказывает управление; однако, чтобы сделать описание модели доступным, дальнейшие примеры будут упрощены (как если бы всегда действовала какая-то одна система, а не комбинация)
00:12:05 Бежевая система ценностей
00:12:48 Фиолетовая система ценностей
00:14:10 Общий признак различия между системами ценностей
00:14:18 «Деда Мороза не существует?» → Возникновение красной системы ценностей
00:15:16 «Clean Code» — это что-то однозначно хорошее/плохое? → Синяя система ценностей
00:18:16 Развитие нелинейно, а стадии — это на самом деле никакие не стадии
00:20:00 Проявляет ли AI системы ценностей сегодня?
00:21:45 Пропустить развитие стадии невозможно. Но как это совместимо с нелинейным развитием?
00:22:58 Оранжевая система ценностей
00:23:40 Реакция на стресс
00:25:06 «Money can't buy me love» → Зеленая система ценностей
00:26:52 Желтая система ценностей
00:28:20 О ресерче дальнейших систем ценностей
00:29:05 Триггеры
00:29:27 Почему LLM сегодня избыточно уворачиваются от некоторых вопросов? Нюансный подход к развитию пользователей может привести к решению
00:31:58 Как психология развития может помочь улучшить рекомендательные системы?
00:32:49 Как это всё исправить то? Как определить уровень ценностного развития пользователя с помощью ML?
00:34:53 Нездоровые проявления систем ценностей
00:35:39 Ошибки применения психологии развития и конкретно SD. Путница между стадиями
00:40:24 Путаница с другими моделями развития. Что такое «когнитивное развитие»?
00:42:43 Как различить разные виды развития? Как различить развитие от других важных факторов, влияющих на поведение человека?
00:44:04 Большая картина человеческих знаний: модель AQAL
00:45:55 Знания о внутреннем человеческом опыте фундаментально менее надежны, чем о внешних объективных измерениях человека. Однако это не является достаточной причиной считать их невалидными знаниями
00:46:46 Линии развития
00:48:06 Почему задачи про «круглые люки» не помогают качеству найма? Например, потому что это весьма грубое упрощение предсказания средней когнитивной сложности человека. Да и так ли нам важна именно усредненная оценка (которую так сложно получить корректно)? Теоретическая способность справиться с овладением иностранным языком ≠ фактический уровень владения этим конкретным языком
00:48:40 По всей видимости, в той или иной мере, все эти линии коррелируют друг с другом. Но что это для нас значит? Подробней — под видео
00:49:23 Стадии развития, состояния сознания
00:50:45 Типы
00:52:36 Как нам использовать AQAL в ML? И причем тут эмерджентность?
00:55:44 Об ответственном использовании и культах
01:00:23 Итоги

Задействованные видео:

Музыка Chris Zabriskie (распространяется на условиях лицензии CC BY 4.0):

  • CGI Snake
  • I Am Running Down the Long Hallway of Viewmont Elementary
  • Wonder Cycle
  • Mario Bava Sleeps In a Little Later Than He Expected To
  • Is That You or Are You You?
  • Hitchcock Would Have Fucked Up Charade

Упомянутый материал

Мелькающие в видео статьи

Интегральный подход уже применяют в разработке AI?

Уилбер недавно упомянул, что работает с компаниями, которые применяют AQAL-подход для разработки AI. Одна из таких компаний, например, пытается получить AI-систему которая могла бы самостоятельно научиться принимать всё более сложные перспективы, используя эволюционный механизм превосхождения и включения предыдущих стадий развития разными способами.

Предполагается, что это позволит AI креативней поступать по отношению к парадоксам (поможет интегрировать противоречивые утверждения) и возможно сделает будущее более здоровым (поможет уменьшить количество ложных шагов эволюции).

Пояснение по поводу корреляций между линиями развития

По всей видимости, в той или иной мере, все линии вертикального развития коррелируют друг с другом. С точки зрения современных нейронаук — объективно они и являются чем-то одним (GI), а не множеством чего-то (MI). По крайней мере они не являются реальными физическими несвязанными между собой нейронными сетями.

Однако моделировать их как единый цельный объект на данный момент не получается. По крайней мере это касается моделирования интеллекта людьми для людей (исследователей и практиков модели, например психотерапевтов), которым эту самую модель нужно продолжать понимать, чтобы дополнять и применять ее.

Это не значит что цельный AGI (т.е. не систему специализированных AI-агентов) получить невозможно. Это только значит что нам не стоит сильно надеяться на то, что исследователи (не работающие в сфере AI) смогут в ближайшее время получить вменяемую модель GI (которую мы бы могли использовать для моделирования AGI). Вместо этого у нас пока будут только множество пересекающихся исследований, обширно захватывающие лишь конкретные области развития и в одну строгую непротиворечивую картину они вряд ли будут собираться.

За неимением модели GI с адекватной разрешающей способностью, Уилбер предлагает синтез работающих идей GI и MI, т.е. концептуализировать развитие именно как множество интеллектов (линий развития), но коррелирующих (в отличие от изначальной теории MI Гарднера).

Стадии в разных линиях при этом необязательно четко накладываются друг на друга: разные исследователи по разным принципам могут выбирать границы стадий. Если мы предсказали оранжевую стадию в SD — то этого недостаточно, чтобы сказать что соответствующая стадия актуальна и для теории развития эго, как минимум потому что в ней сразу две стадии относятся к оранжевой.

Ограничивает ли уровень когнитивного развития возможность развиваться в других линиях — это предмет продолжающихся дискуссий между исследователями. Уилбер отмечает, что исследования продолжают показывать, что когнитивное развитие — необходимое, но недостаточное условие для других видов развития, и в то же время утверждает, что бывают исключения.

Назрела необходимость в частичной автоматизации научной деятельности

Общество (и исследователи не исключение) недостаточно хорошо друг друга слышат сейчас по разным причинам. На мой взгляд, как минимум организационно, мы пока далеки от возможности порождать вменяемые цельные модели такой сложности, как GI.

А технически — вероятно не так уж и далеки. Мне кажется для того, чтобы на самом деле сделать ощутимый шаг в этом направлении, как минимум нужно прийти к хоть сколько-то более разумному методу отбора ревьюверов, на основе AI-системы, которая будет выбирать научные работы, пытаться достаточно качественно предсказывать возможные противоречия между ними и уведомлять потенциально заинтересованных в этих противоречиях исследователей.

В конечном счете прийти к более качественному процессу постоянного, частично автоматизированного, кросс-дисциплинарного исследования исследований.

Возражения? Дополнения? Буду рад комментариям! 🙏🏼

  • в контексте каких нерешенных задач тебе было бы интересней всего послушать дальнейшие, неизбежно ограниченные моими способностями, размышления через призму AQAL-подхода?
    • например, персональный полуавтономный нейтральный новостной агрегатор с проверкой фактов
  • довелось ли тебе уже использовать психологию, социологию, AQAL-подход, какие-либо другие необычные подходы и научные дисциплины в R&D-задачах?
    • какие теории/модели? в какой области? как именно это потенциально может помочь (или уже помогает)?
    • как ты ориентируешься в научных работах, что для тебя является «картами» большой картины знаний?

Буду благодарен любым интересным комментариям, это мотивирует меня продолжать! 👇🏻

Автор изначальной диаграммы из шапки поста — Steve Self.