Где надо остановить применение ИИ, чтобы не свалиться в трансгуманизм

Где надо остановить применение ИИ, чтобы не свалиться в трансгуманизм, размышляют спикеры спецпроекта ТАСС и СМИ2 — «ТАСС_Аналитика»:

По мнению старшего научного сотрудника Российского НИИ культурного и природного наследия Александра Рудакова, в интеллектуальном пространстве человечества доминируют три тенденции, ведущие к преодолению именно человека.

Первая, представленная широко известным Манифестом Palantir, тянет людей в техно-авторитарную, технофеодальную диктатуру, считает Рудаков. Это — так называемое «Тёмное Просвещение», концепт, в котором человек интерпретируется лишь как объект и ресурс, а человечество — как некая регрессивная биомасса. А на вершине иерархии находится сверхчеловек. «Это концепт, который навевает определённые воспоминания и ассоциации», — отметил учёный.

Вторая тенденция — это глобалистский трансгуманизм, представленный Ювалем Харари и творческим коллективом под началом Клауса Шваба. Здесь человек — это алгоритм, набор данных, духовное измерение которого отсутствует. Права, свободы, достоинство человека — это всё конструкт, субъективный вымысел, который можно использовать, а можно и нет в зависимости от ситуации.

Третья тенденция — левокритическая, философия новых левых, представленная широким спектром авторов. Для новых левых человек — это не биомасса, не потенциальный раб, не алгоритм, но всё равно социальный конструкт, которым можно управлять и который можно трансформировать.

И что нельзя отдавать ИИ в управление?

Николай Григорьев, советник генерального директора ICS Consulting, член Научно-экспертного Совета Института экономики РАН по проблемам управления, насчитывает пять зон минимального круга решений, которые нельзя делегировать никакому ИИ:

1. О лишении или существенном ограничении прав. Таковые решения могут и должны приниматься только и исключительно людьми. И здесь не надо бояться ошибок. Бояться надо безошибочности алгоритмов.
2. О доступе к базовым социальным благам. Если такие решения будет принимать цифровая система, алгоритм, мы утрачиваем свой суверенитет.
3. Решения, затрагивающие достоинство, репутацию, правовой статус личности.
4. О применении силы.
5. О стратегических целях: образование, государство, общественное развитие, зона исторической ответственности.

А как отличить реально принятое человеком решение, от механического «подмахивания» предложенного ИИ-системой сценария действий?

Алексей Краснер, директор департамента искусственного интеллекта и анализа данных ICS Consulting, предложил «простой инженерный критерий»: решение является человеческим только тогда, когда одновременно выполнены следующие четыре условия.

- у человека есть время на анализ.
- у него есть когнитивный ресурс, он не на пределе усталости.
- у него есть альтернативный источник информации, помимо того, что ему показала модель.
- у него есть реальная возможность отклонить рекомендацию без негативных последствий для него.