К беседе Познера с Усковой

Ольга Ускова перед встречей с Познером попросила в facebook накидать ей мыслей к разговору о рисках развития искусственного интеллекта (ИИ)

Уважаю Познера. Прекрасная и важная тема. Он для того и приглашает специалиста, чтобы разобраться. С интересом посмотрю.

1. Надо поддержать его в важности темы и необходимости ее обсуждать (в топку всех придурков, катящих на него баллоны).
2. Страх всегда от неизвестности. ИИ– это страшно. Чем меньше понимаешь в нем, тем страшнее.
3. Фашизм– очень размытое понятие. Если брать критерии Умберто Эко, под них подходит любой авторитарный режим. Стоит уточнить: видимо, Познер имеет в виду человеческую сегрегацию по критерию способности продуктивно жить с ИИ.
4. Вся история человечества– это история победы лени. Лень– двигатель прогресса. Все технологии построены по принципу «понять, как я это делаю, и поручить железке». При этом стоит вспомнить страхи людей на каждом новом этапе. Луддиты– самый известный пример из истории. Можно вспомнить более свежий, о котором не говорят: бухгалтер. В 20 веке бухгалтер– это биологический арифмометр. Многие еще помнят отделы бухгалтерии (бюстгалтерии) на несколько рядов столов со счетами. Они всеми бюстами сразу ложились на компьютер, потому что он считал несопоставимо лучше всех их бюстов вместе взятых. Они, ничего не понимая в компьютерах, прекрасно понимали, что их счетам с компьютером придет конец. Конец пришел. Счетам, но не их прекрасным бюстам. Сегодня бухгалтер выпучит глаза и покрутит у виска, если ему предложат работу без компьютера. НО ЭТО СОВСЕМ ДРУГАЯ РАБОТА, хотя называется так же. Постепенно лень добралась до интеллектуальных задач. И снова страхи луддитов-бухгалтеров.
5. Зря в своем выступлении Познер развел роботов и ИИ. Робот и есть носитель ИИ. Про типы ИИ Вы лучше меня знаете. Сегодня речь идет, прежде всего, об узкоспециализированных интеллектуальных задачах. Их ИИ информационно или в виде исполнительного автомата начинает делать лучше людей– ровно в логике развития информационных технологий, высвобождает человека для более творческих задач. Простые работы аборигены и так делать уже не хотят– набирают гастарбайтеров из бедных стран.
6. Что будет дальше? Сложный вопрос. Скорее всего, появятся новые задачи, для которых нужны именно люди. Так было всегда раньше.
7. Есть ли риски? Есть. Существует модель типичных видов деятельности. Оригинальное изложение не знаю. В моем изложении это модель ИРО По некоторым оценкам (источник не помню) И(сполнителей) порядка 85%. Они такие генетически или из-за патерналистской системы образования, неизвестно. Если генетически, то бурное развитие роботов будет их постоянно теснить в исполнительских задачах. Нужно будет им либо ориентироваться на гуманитарные виды деятельности, где у роботов пока все не очень продвинуто, либо жить в логике life long learning, постоянно развиваясь и занимая новые роли. В любом раскладе, переориентация системы образования неизбежна на более творческое и ответственное поведение. Роботы и ИИ дополнительный толкач этой постановки задачи, хотя и без них доводов в пользу индивидуальных образовательных траекторий и пожизненного обучения давно назрел. Систему образования всю перестраивать заново всем в лом: задача тяжелая и непредсказуемая, а отвечать никому не охота. Поэтому ее пытаются рихтовать в разных направлениях, пока она сама не развалится окончательно.
8. Есть ли риск настоящего (не узкоспециализированного) ИИ? Пока неизвестно. Чем дальше в мозг, тем больше проблем.
9. О чем на самом деле стоит думать с большим страхом– об инфантилизации всего мира. Работа все больше напоминает игрушки. Тяжелых физических усилий все меньше. Рисков для жизни все меньше. Здоровья все меньше (человек как вид без медицины уже нежизнеспособен). Над детьми при этом учинили гиперопеку и они не взрослеют до пенсии или даже до ящика. Вероятность катаклизма от инфантильного взбалмошного политика с каждым годом выше. Только на ИИ вся надежда– тот лишен эмоций и проблем взросления.
10. Гораздо выше риск фашизма в логике Познера– в дешевых источниках энергии, открытие которых ожидается к 2035 году. Энергия– это путь ко всем ресурсам, за которыми всегда гналось человечество. Дешевая энергия– дешевые ресурсы. Тогда не нужны становятся деньги как стабильный и довольно дорогой эквивалент любого товара. Они достанутся всем или избранным? Будет ли это интеллектуальная элита или военная или финансовая?