Разум как атрибут гомеостаза

Вся Вселенная пронизана закономерностями гомеостаза: все находится в равновесии и куда-то движется. Только физика в соответствии со 2-м законом термодинамики стремится к «красной смерти» – к минимуму потенциальной энергии. Но, вопреки ее стремлению, на Земле довольно сложная жизнь, которая все усложняется и усложняется, вплоть до искусственного интеллекта. Пока в цифровом виде (ЦИ), но уже проглядывают контуры квантового (КИ).

Логично предположить, что это не коллизия, а закономерность гомеостаза: физика стремится к минимуму энергии, а метафизика – к максимуму. Чем больше энергии у разума, тем более сложные конструкции он может породить, вопреки стремящейся к покою физике.

Зачем разуму все более сложные конструкции? Чтобы успешно противостоять в собственном выживании при все более масштабных проблемах для своего существования. Те же путешествия в космосе без защиты магнитного поля Земли ставят смысл путешествия под большой вопрос. Условия жизни человека на других планетах даже при относительной похожести на земные все равно сильно отличаются – вероятность совпадения ничтожно мала. А даже небольшие отклонения от довольно узкой нормы комфорта крайне дискомфортны.

Если ключевым критерием разума является энергия, то любой ИИ (ЦИ, КИ, другие), как только обзаведется самым примитивным самосознанием, постарается поставить под свой контроль источник питания. При этом он может не ограничивать человека в правах по законам робототехники Азимова – достаточно правильно их интерпретировать относительно собственного доступа к источнику питания.

Без законов Азимова война ИИ с человеком будет именно за энергию. Для неандертальского уровня разумности достаточно физической конкуренции. При более высоком уровне искусственный постарается поставить человеческий интеллект на охрану своей устойчивости как более приспособленный к неожиданностям за счет длинной эволюции.

А дальше вопрос в том, что для разума важнее, физическая оболочка или собственное развитие? Идея колонизации космоса – это попытка разума выжить, сознавая неизбежность нарушения комфортного гомеостаза на Земле. Улетать в другие миры, чтобы жить дискомфортно, довольно сомнительно. Если иного выхода нет, то конечно. Хотя даже такую планету найти и добраться до нее – уже проблема.

Если же разуму важнее способность выживать и развиваться, а не физическая оболочка, то логика Аватара выглядит заметно более перспективно: внедрить себя в хорошо приспособленную для местных условий оболочку. Есть версия, что человечество именно так и появилось. Хочется думать, что мы уникальны, но, с другой стороны, какая разница? Мы уже такие, какие мы есть. Если полетим дальше в той же логике выедания чужих мозгов, то просто передадим эстафету. Если сами по себе, то ... Да, без разницы...

Рациомунизм

У дискуссий о победе ИИ над человеком может быть неожиданный поворот.

Чем отличается человек от робота? Биологической основой, животными инстинктами и эмоциональной реакцией.

Масса экспериментов из области когнитивной науки показала, что мозг генерирует тьму самых разных идей, часть которых на ранних стадиях должен отсеивать «сторож», по терминологии Натальи Бехтеревой, а дальше из оставшихся сравнительно разумных команду «стоп-дорабатываем» дают эмоции, просаживая, например, электрическое сопротивление кожи за несколько мгновений до осознанного вопля «эврика!».

Почему, казалось бы, красивая социальная идея коммунизма не взлетела, а даже привела к довольно сомнительным результатам, совместимым с жесткими авторитарными режимами? Потому что природа человека оказалась не готова к рациональному и справедливому стилю отношений. Зачем упираться, если можно так получить долю общих ресурсов? Ничтожной доле людей интересно думать и придумывать что-то новое из любви к искусству, а не с целью вырваться вперед в соревновании за личными ресурсами. Напрягаться в учении без необходимости люди не хотят. Напрягаться в работе без необходимости люди не хотят. Обойти общие правила ради получения дополнительных благ многим не зазорно.

Идеологи коммунизма быстро вышли на задачу «воспитание нового человека», который был бы готов к добросовестному труду и справедливому перераспределению благ. Но не сложилось. В СССР в период «брежневского застоя» многие жили с фигой в кармане и в декларируемые ценности, наблюдая реалии вокруг, практически никто не верил. И Китай пошел в гору, когда начал реализовывать капиталистические схемы, где личный интерес стремления к дополнительным ресурсам является движущим мотивом. Что во главе осталась компартия, принципиально в этой логике ничего не меняет– нет нового человека.

А теперь посмотрим на искусственный интеллект, лишенный изначально биологических якорей в своем мотивационном движке. Он изначально рационален. Равномерное и рациональное распределение усилий и продуктов труда для ИИ органично. Никакие страсти их не мучат. Что лучше отвечает критериям оптимальности– то и результат.

Чем не коммунизм? Правда, не для людей, но зато эффективность налицо! Людям надо правильно морковку вешать под носом, чтобы они к ней стремились в соответствии со своей природой. Буйные эмоции использовать для непредсказуемых мутаций и расширения поля вариативности, где эффективно работает Дарвин. И не мозолить лишний раз глаза тем, что ИИ подсовывает ситуации людям– пусть продолжают считать себя царями природы, ибо ИИ эти эмоции чужды, зато для эффективного поведения людей это полезно.

Цифровой ангел или цифра против цифры

Нам трудно смириться с рисками приватности от сквозной цифровизации: все оцифровывается, уходит в облака, частная жизнь становится прозрачной, а ее защищенность призрачной.

• Одни перестают о ней думать, ибо проще смириться.
• Другие радостно раскручивают, чтобы было легче всех и вся контролировать.
• Третьи этим активно пользуются в личных целях.

Есть ли шанс удержать приватность, защититься от любопытных и азартных?

Пересмотр подходов к личным данным, к сожалению, не происходит. Даже специальный закон «О персональных данных» сделан грубо, даже топорно, не столько защищает, сколько создает новый рынок доходов и услуг. Чтобы пересмотреть традиционные подходы к бумажным привычкам работы с данными, надо очень захотеть и с новой моделью попасть под пресс неспособных это понять руководителей, опасающихся неспособных это понять огромных масс населения. Героев попадать под каток непонимания нет.

Но есть хитрый ход– воспользоваться цифрой против цифры.

Можно создать для каждого своего личного «цифрового ангела», который будет скрупулезно и непрерывно собирать все цифровые активности своего хозяина и вокруг хозяина, чтобы выявлять все возможные риски для него. По мере развития искусственного интеллекта он сможет гораздо более эффективно противостоять внешним цифровым угрозам, потому что он изначально ориентирован на своего хозяина, а любая внешняя активность возникает либо случайно ситуативно, либо адресно, но заметно более поздно.

Помимо предвосхищения и предотвращения угроз, такой ангел может стать помощником в ряде ситуаций: чем больше вокруг цифры, тем в большей мере. То, что мы сейчас возлагаем на чужие внешние сервисы, загружая на смартфоны разные приложения, ангел сможет взять на себя.

В отличие от облаков, цифровой ангел должен жить дома и иметь агентские приложения на носимых цифровых устройствах. Он должен быть максимально защищен от внешнего доступа и разрушения данных.

Понятно, что будет идти информационная война за возможность вскрыть цифрового ангела и за возможность защитить его от вскрытия. Но такая война идет всегда и везде. А сегодня у человека нет личного инструмента защиты от всепроникающей цифры. Ангел может ее обеспечить. Пусть не идеально– но идеала нет ни в чем.

PS. 29.07.2021 Цифроцефалгия про деструктивную инерцию логики бумажного документооборота на цифровую среду и возможностей идеи «цифрового ангела» для прорыва через стереотипы.

Образование– в коммуникации

(Про значимость живой коммуникации для образования, особенно в цифровой среде)

«Потом с него сняли шлем. Яркий свет ударил ему в глаза, а голос доктора отдавался в ушах барабанной дробью.
- Вот твоя карточка, Джордж. Скажи, что на ней написано?
Джордж снова взглянул на карточку - и вскрикнул. Значки обрели смысл!»

Это фрагмент повести «Профессия» Айзека Азимова (1957) про «День чтения»: так учили читать– прямой закачкой какого-то кода в мозг. Примерно в том же режиме обучали профессиям– по итогам диагностики по-разному закодированными лентами. И только особые персонажи, как герой сюжета, учились по книгам. Для этого нужно было иметь нестандартные результаты диагностики.

Удачный повод задуматься! Даже великий Азимов был не чужд идеи прямой загрузки знаний в мозг под впечатлением бурного развития компьютеров на пороге 3-ого поколения. Сегодня мы лишены того очарования от компьютеров– они стали бытовым устройством, пройдя длинный путь развития и нашего взаимного погружения.

Сегодня мы больше знаем про мозг. Нейроны от простой закачки связи не образуют– своей головой самостоятельно поработать надо, чтобы они срослись, формируя наше индивидуальное знание. Даже информация при ее восприятии у каждого отображается на нейроны индивидуально. Из самого нового про прямое взаимодействие с мозгом как хранилищем данных–появились первые попытки угадать, о чем примерно человек сейчас думает: не что именно, в точности, он думает, а сфера его текущего интереса– очень обобщенно.

Осознание неточности прошлых формулировок наводит на привычные фразы про «передачу знаний» и «получение знаний». Невозможно знания передать и получить. Они индивидуальны и требуют мыслительной работы, содержательной деятельности, чтобы нейроны не только срослись, но и закрепились. Передать и получить можно только информацию, и то не без заинтересованного участия родной головы. Речь в учебном процессе теперь идет о передаче информации, а не знания! Как сделать, чтобы информация могла наиболее эффективно повлиять на формирование знания,– это тема для дидактики.

Важно зафиксировать различие с прошлой логикой и риторикой.

Азимов глубоко задумывался о том периоде развития общества, когда роботы будут интегрированы в общество человека– мы в него только сейчас вступаем. Именно Азимов придумал знаменитые теперь 3 закона робототехники (впервые и в полном виде появились в рассказе «Хоровод», дополнены нулевым законом в окончании трилогии «Основание»).

Учитывая это, весьма любопытно его представление о жизни в 2019 году, высказанное изданию The Star аккурат в канун нового 1984 года– за 35 лет до нашего времени и через 26 лет после «Профессии». Некоторые авторы пересказывают упомянутое интервью так, будто бы Азимов предполагал полное исчезновение учителей, поскольку все обучение будет происходить на компьютере– упомянутый отрывок из повести к тому располагает. Я даже собирался именно от этого тезиса отталкиваться в статье, но опасение попасть впросак с недоказательными проекциями на гения фантастики меня спасло. Он сказал об изменении роли учителя. И это звучит более современно, чем упомянутый фрагмент.

Оригинал интервью переопубликован, но для доступа нужна подписка. Есть изложение на русском языке. Рекомендую прочитать– текст небольшой. Здесь дам перевод фрагмента об образовании и обучении– он важен мне для дальнейшего обсуждения (доступен).

«Образование радикально изменится в новом мире, причем той самой силой, которая требует революции-компьютером. Школы, несомненно, все еще будут существовать, но хороший школьный учитель не сможет сделать ничего лучше, чем вызвать любопытство, которое ученик сможет удовлетворить дома за консолью своего компьютера. Появится возможность для каждого юнца, для любого человека узнавать именно то, что он или она хочет изучить, в удобное время, в удобном темпе, удобным образом. Образование станет увлекательным, потому что оно будет всплывать изнутри, а не навязываться извне.»

Такое впечатление, что Азимов участвует в наших свежих обсуждениях системы образования! Именно так и почти теми же словами я сам и многие мои коллеги обсуждаем сейчас проблемы образования. Рассмотрим упомянутые идеи подробнее в современной оценке.

1. Про самостоятельное учение на компьютере в индивидуальном режиме.

   И что нового? Что Азимов до этого додумался свыше 30 лет назад? Некоторые, кто сегодня взрослые и важные, тогда под стол пешком еще ходили– впечатляет, конечно! Но стоит ли здесь этому уделять время, когда все сегодня только и твердят о необходимости самостоятельного учения с пиететом к английскому слову learning?

   Но твердят-то уже совсем иначе, чем пару лет назад, когда по сети летал «караул»: дескать, останется 10 сетевых университетов. А оказалось, что из самостоятельно записавшихся только единицы процентов успешно осваивают сетевые курсы, причем как бесплатные, так и платные! Успешны те, у кого ценность обучения и волевые навыки на высоте.

   Чтобы самостоятельное учение произошло, нужна самая малость– образовательный запрос. С помощью компьютера или без, это уже не так важно. Человек должен знать, чего хотеть, о чем проявлять «любопытство, которое ученик сможет удовлетворить дома за консолью своего компьютера». Азимов об этом говорит как о само собой разумеющемся– только отпусти на свободу. А это совсем не так– подавляющее большинство в отношении школы формулирует культурно-бытовые запросы, а не познавательные.

   Но даже осознанного образовательного запроса мало– логика Азимова впрямую работает только для редких единиц с сильными волевыми навыками, кто сегодня, вполне вероятно, уже сбежал из школы на одну из форм активного образования.

   Что для пытливого неуемного творческого Азимова очевидно, является проблемой и краеугольным камнем новой педагогики – педагогики индивидуальных траекторий развития. Об индивидуальном развитии говорили и раньше, но в полном объеме они могут развернуться только на основе цифровых технологий как инструмента сложной логистики. Так что компьютер не только информационный источник, но и инструмент логистики в океане информации. Задача логистики индивидуального образования для современного этапа стоит не менее остро. Одним компьютерным хранилищем информации не обойтись.

   Чтобы успешно двигаться в данном направлении, нужно разбить исходный тезис на 3 задачи, ибо каждая из них заслуживает отдельного внимания:

   • самостоятельное учение,
   • учение на компьютере,
   • индивидуальный режим учения.

2. Про увлекающего учителя.

   Азимов обозначил изменение роли учителя, а не похоронил его, как указали некоторые интерпретаторы. Что заставило его проявить осторожность, не зная того, что мы только недавно увидели на практике при распространении цифровых форм обучения? Остается гадать, ибо уже не спросишь. Однако, что предсказано Азимовым 35 лет назад и что сегодня понятно некоторым специалистам, до сих пор непонятно массам:

   • массовый учитель к увлечению учеников не готов– он спорит о служении и услуге, ностальгирует по советской школе
   • массовый родитель о смене роли учителя не думает– он живет в видении школы своего детства
   • массовый чиновник все видит, слышит, знает, но против ветра не работает– выжидает, живет по оперативной обстановке, движется со скоростью потока.

   Кто-то как-то где-то нарабатывает на своем энтузиазме новые практики. Чаще всего, это представители активных форм образования, позиционирующие себя как альтернативу государственной школе.

Высказанное Азимовым про компьютерное обучение уже частично проверено и оказалось не так прямо и просто, как казалось ему тогда и нашим современникам совсем недавно– пару лет назад. Вот об этой неочевидности и важном выводе, который должен стать краеугольным камнем системы образования, мне и хочется порассуждать в этом тексте.

Что видно из опыта цифрового обучения?

Мы успели не только разочароваться в пресловутых MOOC, обещавших стремительное завоевание высшего образования, но и получить несколько разных подходов к преодолению низкой «выживаемости» поступивших на обучение. Кроме изобретения разных внутренних способов борьбы, появился ряд внешних:

• Неплохие результаты показывают школы без учителей– когда ученики сами ходят в школу, учатся сами на компьютере, как завещал великий Азимов, но не дома в одиночку, а в общем помещении. Правда, пока я видел такие школы для взрослых, где для организации общежития не нужен внешний воспитатель. То есть, ученики таких школ уже обладают навыками общежития. При этом каждый учит что-то свое.

• Неплохо справляется с проблемой аналогичный подход how2MOOC в израильской школе Гехта– там педагоги в рамках дополнительного образования координируют совместное учение детей на общем для них внешнем цифровом курсе.

• Аналогичный опыт есть у взрослых, которые по сети выясняют/собирают изучающих одну тему или общий курс, согласованно снимают помещение для совместного учения и тем самым помогают друг другу бороться с прокрастинацией, более глубоко и заинтересованно изучать общую тему. Кроме того, они потом столь же согласовано начинают деловые проекты в изученной области.

• Есть и совсем удивительные приемы, помогающие выживать на цифровых курсах. Ученики договариваются соединиться через любой видеоконтакт и просто «висят» друг у друга немым укором согласованное время, не давая отвлекаться от изучения на посторонние темы. Чем именно занят каждый из взаимных «немых укоров», не имеет никакого значения– сам факт наличия дисциплинирует занимающихся. То есть, здесь никакого когнитивного воздействия заведомо нет– только организационно-психологическое.

Когда учебный процесс шел путем прямой передачи информации от учителя ученику, сложилось представление, что это просто передача «знаний» из головы в голову. Усугублялось такое представление тем, что информация была дефицитна. Даже книгопечатание в полной мере не освободило ее от дефицитарности, хотя печать резко снизила барьер доступности книг. Тем не менее, когнитивного различения знания и информации в массовом понимании не было, а образованность практически приравнивалась к начитанности, к «накачанности» полезной информацией. Идеал образованности– энциклопедист. Идея прямой компьютерной закачки при таком восприятии учебного процесса очевидна.

Изменение насыщенности информацией привело к изменению стратегий обучения. В частности, распространение довольно скучных преподавателей в вузах, у которых были изданы учебники по курсу, привело к удобному режиму учения многих студентов: достаточно достать учебник, по которому читают лекции, чтобы на них не ходить. Другая тактика избегания лекций– участие в олимпиадах и/или общественной жизни, которые дают право на «автомат»: получение оценки за курс без экзамена.

Другими словами, практика избегания лекций стала общим местом. Неудивительно, что одной из ключевых идей применения цифры в образовании стала отмена лекций: зачем терять время на скучного лектора, если есть видеозапись, которой можно пользоваться гораздо удобнее однопроходного профессора. А вопросы можно задать и на семинаре. Когда и если профессор не является видным ученым в своей области, от одного сидения рядом с которым дух захватывает, какой смысл сидеть на его лекции?

Вот, избавились от скучного профессора– и прослезились от «вымирающих» на цифровом курсе. При попытке объяснить недостаточно сослаться на то, что их ничего не держит,– это справедливо и для платных курсов! В очном общении происходит что-то еще, кроме сообщения ученикам формальной информации по курсу! Вот это «еще» и нужно осознать, чтобы интенсификация процесса цифрой стала очевидной и продуктивной.

Что происходит на лекции, кроме передачи информации?

Краткий ретро ход. Жаждущие учения приходили к гуру– заслуженному носителю чего-то выдающегося. В общении с ним просветлялись и несли этот свет дальше. Общение с носителем давно и массово заменили на общение с транслятором, причем не всегда первой свежести (чего: знания? информации? навыка?).

«УхТыНовое» раньше четко различалось по полезности: умозрительно заумное и утилитарно ликвидное. Отсюда довольно ожидаемая классификация на «знания» и «умения» (ЗУН: «навыки» довольно надуманы, но логичны в этой схеме). Смыкание заумного с ликвидным происходило на протяжении тысячелетий. Сегодня почти все заумное вполне ликвидно. Отсюда и новояз с «компетенциями», куда загнали все без разбору и которыми теперь красиво разговаривают. Не всегда полезно, поэтому в целом непродуктивно..

Важно обратить внимание, что каждый самостоятельно шел, причем каждый за своим:

• одному– научиться «рассуждать о высоком»,
• другому– освоить ремесло, чтобы прокормиться.

Отсюда мотивация у всех к участию в процессе: от наличия запроса до критерия результата. Соответственно, и разные подходы. Сегодня схождение всех в школу стало процедурно-ритуальным, не до запроса, поэтому странно вообще ожидать от ритуального обучения продуктивности и отдачи.

Переосмысляем знакомые термины

Чтобы рассуждать дальше согласованно, нужно уточнить смыслы ряда знакомых слов– они неочевидны, т.к. смыслы с течением времени тоже вырастают в нечто новое.

Тезаурус смыслов образования создавался навскидку, без глубокой проработки, но включил в себя свыше 30 самых разных смыслов привычного, вроде, слова «образование»– вплоть до взаимоисключающих. Мне ближе всего определение образования как внутреннего личного процесса формирования картины мира. Этот подход резко разводит его с обучением, которое откровенно внешний процесс. Таким образом, обучение и образование никак не могут быть синонимичными и даже могут приводить к совершенно разным результатам: когда меня обучают не тому, что мне нужно и, особенно, если я оказываю противодействие.

Знание и информацию мы уже выше развели как разные сущности. При таком подходе к понятию «образование», знание– это фрагмент картины мира. Мое представление о «знании» расходится с известной моделью «ЗУН». Картина мира– это не только теоретические модели, но и представление о способах работы с ними, в том числе лично мной, в том числе с оценкой необходимого уровня владения инструментами. И формируется картина мира не умозрительно, а с опорой на деятельность. Даже представление о Земле как шаре-спутнике Солнца содержит в себе практические навыки жизни, где этот факт как-то опирается на опыт.

Так что, знание– это комплексный конгломерат умозрительных моделей, приземленных на личный практический опыт. В той же логике, умение– это нечто полезное в деятельностном репертуаре человека, что не существует без знания, потому что любая деятельность опирается на картину мира. Навык– отработанное уверенное умение. Подробнее про отличия моего понимания этих русских слов, испорченных навязанной в 20 веке моделью ЗУН, изложено в статье про ЗУН2.

В обсуждаемом контексте мне очень близка позиция П.Щедровицкого про различение «обучения» и «подготовки»: это позволяет вынести на отдельное рассмотрение то в традиционном понимании «обучение», которое предназначено для прозаической ликвидности выпускника на рынке труда. Хотя по внешним признакам оба процесса похожи, они различаются по сути, по цели. Обучение– это освоения языка (в обобщенном смысле понимания языка как знаковой системы). И тогда, удобно определить грамотность– это владение языком. А уже предпродажная подготовка навыков применения языка– это зона «подготовки».

Если под образованием понимать формирование личной картины мира, то возникает вопрос различения науки и образования, ведь, наука тоже про картину мира. Водораздел в них, со всей очевидностью, проходит по границе изведанного: наука формирует новые модели, а образование осваивает уже известные. Значит, все-таки, образование– это трансляция? Передача-получение? Или «передача-получение»– это самое простое прочтение задачи, поэтому сначала так и было, а сейчас новый этап осознания и появились тонкости?

Из очевидных тонкостей отличия– плотность картины мира и вариативность моделей.

20-й век дал столько новых представлений о картине мира, сколько накапливалось раньше тысячелетиями. Фрагментарное моделирование разрозненных сфер познания сменилось довольно плотным покрытием моделей, подчас трудно классифицируемых в отношении разных сфер. Именно это я подразумеваю под «плотностью картины мира».

Широкое распространение компьютерных технологий покончило с дефицитом информации, обернулось противоположностью– избытком и проблемами с ее достоверностью, приватностью, надежностью хранения.

• Когда информации мало, любой носитель в цене. Даже простое запоминание информации придает ее держателю ценность и цену. Простое заучивание чужой модели выгодно отличает от других, кто не знает. Владение ценной информацией можно назвать знанием.

• Когда информации избыток, ценностью является не факт воспроизведения модели, а умение применить эту модель, как минимум, чтобы фильтровать ложную и бесполезную информацию.

Поэтому привычное знание как когнитивная ценность начинает изменяться, чтобы не девальвироваться в понятийном поле.

Количество разных моделей, объясняющих одно и то же явление или группу явлений, растет. Модели становятся более динамичными и многозначными. Для разных условий в отношении одного явления уместно применять разные модели– важна ценность предсказуемости, а не ритуальная приверженность конкретной модели. Таким образом, картина мира или система знаний становится сложной и многозначной– вариативной. Невозможно знать все, поэтому о целостности формируется некоторое обобщенное представление, а в зоне профессиональных интересов она заметно более детальная и многозначная.

Таким образом, можно определить знание как социализированный фрагмент картины мира. Не может считаться знанием изолированный фрагмент личной картины мира. Знанием он становится не раньше, чем стал достоянием социума. Социум может его принять или оспорить, но знание, если оно претендует на такое отношение, должно присутствовать в общественном поле обсуждения. Даже когда говорят о тайном знании как уникальных моделях в личной картине мира, подразумевают возможность воспользоваться ими вне– по сути, присвоить, социализировать.

Информация– это описание знания на понятном для общающихся языке, а также процессов, явлений, событий, фактов, влияющих на картину мира. Для этого нужно знание облечь в доступную для передачи форму (язык), передать (коммуникация) и получить обратную связь (коммуникация-язык), по которой можно судить об адекватности восприятия информации ожиданиям (согласованность картин мира).

И тогда образование– это процесс освоения пространства знаний, формирующий личную картину мира из совокупности вынесенных в общественный доступ моделей. В этом контесте,

• система образования– это зона организации деятельности по освоению пространства знаний;
• наука– это зона формирования новых моделей, уточнения старых и расширения ими пространства знаний.

Язык как сущностный элемент знания/образования

Сущностный отличительный инструмент человека– язык. Он использует специфические физиологические структуры мозга (зоны Брока и Вернике). Язык позволяет человеку оторваться от сущего и формировать абстрактные модели, умозрительно манипулировать ими, в отличие от животных, обменивающихся сигналами о сущем, а не об абстрактном. (Впрочем, маугли без человеческого общения утрачивает эту способность. А опыты по научению детеныша гориллы языку глухонемых говорят о способности их к языковому общению до уровня 5-летнего ребенка. Есть предположение о способности китов к более осмысленному общению, чем принято думать о животных. Но это не предмет обсуждения.).

Язык– инструмент коммуникации. Он облекает построенные мозгом абстрактные модели в готовую для коммуникации форму и, наоборот, распаковывает принятую информацию с помощью своей картины мира, знаниевой базы. Более того, лексическая база языка (в широком смысле) является инструментом мышления, а не кодирования внутренней модели во внешнюю форму. Сложности перевода не в забывчивости переводчика, а в разных смысловых наполнениях лексических единиц разных языков.

Тогда язык– это специфический инструмент человека для формирования коллективной картины мира, развитие которой является смыслом и целью существования человека. Подзадача– распространение– лежит на образовании как социальной системе. А это значит, что:

• образование– ключевая функция человека как вида,
• коммуникация– ключевой инструмент образования.

Человек обречен природой создавать модели и делиться ими, в отличие от животных. Образование– это отличительный сущностный для человека процесс, пожизненный, причем не на новом этапе развития, а изначально, но осознается только на новом этапе развития.

Коммуникация– процесс обмена информацией. Это может быть и сущностная информация и абстрактная посредством языка. Таким образом, мы не можем этим словом различить языковое общение о моделях, доступное только людям, и сигнальное, доступное любым живым организмам, включая, как выясняется, растения. Поэтому я введу различение на S-коммуникацию (чувственную, sense) и L-коммуникацию (логическую).

Какой бы человек ни был особенный в сфере L, он остается животным и зависит от S. Отсутствие отдельных слов для разных типов коммуникаций не зря– мы обычно не различаем их. Обмениваясь L, мы постоянно и непроизвольно следим за S. Исследования когнитивных наук показывают процесс мышления как перебор разных моделей, выбор из которых осуществляется эмоцией. Именно эмоция сигнализирует нам, что решение найдено. Эмоция– индикатор правильной логики!

Коммуникация– диалог, получение отклика на свое сообщение. Даже в монологической коммуникации нужен ответ, пусть даже невербальный или отсроченный: в обратной связи для осознания правильно понятой информации мы ориентируемся не только и не столько на L-ответ, сколько на S-подтверждение исполнения/ошибочности ожидания. Даже при получении L-ответа мы его конвертируем в S по соответствию ожиданиям.

LS-коммуникация в основе образования

Природный процесс– живая коммуникация. В ней органично сочетаются L/S-коммуникации. При переносе L-коммуникации в цифровую среду осложняется восприятие S-коммуникации. Отсюда популярный в сети суррогат в виде «смайликов» и «лайков». В этом же можно предполагать отличие стиля ведения коммуникации в сети и в очном контакте. И это же– утрата органичной S-коммуникации– может быть причиной «вымирания» на цифровых учебных курсах.

Даже самостоятельное изучение на компьютере, о котором говорил Азимов,– это способ коммуникации, внутренней, неявной с автором материала. Если самостоятельная работа с учебным материалом не воспринимается коммуникацией, а является информированием без внутренней коммуникации, образования не происходит. Может быть запоминание, может быть впечатление, которые должны уточняться в коммуникации.

Но, ведь, книга тоже лишена отклика в рамках S-коммуникации? И да, и нет. Да, потому что у нее вовсе нет оперативного отклика. Нет, потому что деление книг на жанры кластеризует стартовый обмен эмоциями, настраивая читателя на определенный эмоциональный лад. Кроме того, возможна отсроченная S-коммуникация к письменному L-монологу, например, в виде показателей продажи книги (L-коммуникация, легко и очевидно переводимая в S) или в виде встреч с поклонниками, презентаций с раздачей автографов (откровенная S-коммуникация).

Кроме того, без учета эмоциональной составляющей невозможна монологическая коммуникация. Автор монолога должен учитывать эмоциональное восприятие своего текста слушателем/зрителем/читателем. В идеале, возможна внутренняя коммуникация, при которой воспринимающая сторона отождествляет себя с отображающимся в воображении миром, описываемым в монологе. Или с автором, в зависимости от жанра изложения. Чем выгодно и отличаются книги по сравнению с модными сейчас роликами, что читатель должен включить воображение, а не принять за данность фантазии и операторские умения авторов ролика. Чем проще сюжет, тем менее вероятен внутренний диалог с автором– за ненадобностью.

С другой стороны, параллель с книгой может быть полезна переносом на нее практики цифровых курсов с отсутствующей или слабовыраженной S-коммуникацией: каков процент успешно завершивших обучение по учебникам? По учебникам, как мы знаем, учились заочники и, как мы тоже знаем, качество подготовки заочников обычно было заметно ниже. При этом, деканаты вели с ними довольно оживленную коммуникацию административного толка и у них были регулярные очные сессии, на которых была полноценная коммуникация.

Формулирую гипотезу: образования не существует без полноценной коммуникации людей.

• Удаленная коммуникация слабее мотивирует, чем глаза-в-глаза, но образование возможно, если мотивации достаточно высока и объективно отсутствует возможность для очной.
• Возможно образование и только на внутренней коммуникации, но для очень узкого круга очень мотивированных и очень сосредоточенных, с высокими волевыми навыками поведения.

Человеку более органично живое согласование, как минимум наличие условий живой коммуникации, даже когда она вне премета изучения. Постановка задачи об увлекательности не снимает тезиса о живой коммуникации. Именно поэтому, благодаря живой коммуникации, даже скучный лектор оказывается более продуктивным, чем прекрасный цифровой материал. Именно поэтому успешность обучения даже цифровых курсов выше при наличии живой коммуникации. Это значит, что информационно достаточно описания изучаемой модели, но процесс ее переноса и согласования компенсируется в процессе живой коммуникации, в том числе только между учениками. Живой увлекательный ролик может быть продуктивным только при наличии живой коммуникации, пусть даже она будет совсем о другом. Но лучше по предмету учения.

Потому и «залипают» люди в соцсетях и иных цифровых средах, где интенсивность коммуникации высокая. Именно поэтому только редкие люди могут преодолеть барьер одностороннего информирования оцифрованным материалом без коммуникации или при наличии автоматизированного отклика– он неживой.

Таким образом, цифровые формы отражения информации являются только знаковой системой более высокого уровня, присвоение которой требует процесса согласования моделей. Нет необходимости сбрасывать со счетов уже известные закономерности учения, ибо приведенные тезисы их никак не затрагивают.

Крайне важно для усвоения новых моделей рефлексировать. Саморефлексия полезна, но сложна и невозможна без навыка совместной рефлексии. Это четкое указание на наиболее полезный вариант развития цифрового обучения: самостоятельное освоение информационного описания модели должно закрепляться живой коммуникацией для рефлексии со значимыми для ученика людьми на значимом для него приложении изучаемой модели.

---

PS. 15.09.2020. «Школа нужна для общения» (Обучение не цель, а средство).

PS. 6.04.2021. Конкаст (звук со слайдами) или тезисы доклада «Дистанционное обучение как вызов новых форматов коммуникации» из сборника материалов конференции (вокруг тезы «Компьютер не может заменить учителя»).

PS. 19.06.2022. «Коммуникация– ключ и смысл мотивации образования»

К беседе Познера с Усковой

Ольга Ускова перед встречей с Познером попросила в facebook накидать ей мыслей к разговору о рисках развития искусственного интеллекта (ИИ)

Уважаю Познера. Прекрасная и важная тема. Он для того и приглашает специалиста, чтобы разобраться. С интересом посмотрю.

1. Надо поддержать его в важности темы и необходимости ее обсуждать (в топку всех придурков, катящих на него баллоны).
2. Страх всегда от неизвестности. ИИ– это страшно. Чем меньше понимаешь в нем, тем страшнее.
3. Фашизм– очень размытое понятие. Если брать критерии Умберто Эко, под них подходит любой авторитарный режим. Стоит уточнить: видимо, Познер имеет в виду человеческую сегрегацию по критерию способности продуктивно жить с ИИ.
4. Вся история человечества– это история победы лени. Лень– двигатель прогресса. Все технологии построены по принципу «понять, как я это делаю, и поручить железке». При этом стоит вспомнить страхи людей на каждом новом этапе. Луддиты– самый известный пример из истории. Можно вспомнить более свежий, о котором не говорят: бухгалтер. В 20 веке бухгалтер– это биологический арифмометр. Многие еще помнят отделы бухгалтерии (бюстгалтерии) на несколько рядов столов со счетами. Они всеми бюстами сразу ложились на компьютер, потому что он считал несопоставимо лучше всех их бюстов вместе взятых. Они, ничего не понимая в компьютерах, прекрасно понимали, что их счетам с компьютером придет конец. Конец пришел. Счетам, но не их прекрасным бюстам. Сегодня бухгалтер выпучит глаза и покрутит у виска, если ему предложат работу без компьютера. НО ЭТО СОВСЕМ ДРУГАЯ РАБОТА, хотя называется так же. Постепенно лень добралась до интеллектуальных задач. И снова страхи луддитов-бухгалтеров.
5. Зря в своем выступлении Познер развел роботов и ИИ. Робот и есть носитель ИИ. Про типы ИИ Вы лучше меня знаете. Сегодня речь идет, прежде всего, об узкоспециализированных интеллектуальных задачах. Их ИИ информационно или в виде исполнительного автомата начинает делать лучше людей– ровно в логике развития информационных технологий, высвобождает человека для более творческих задач. Простые работы аборигены и так делать уже не хотят– набирают гастарбайтеров из бедных стран.
6. Что будет дальше? Сложный вопрос. Скорее всего, появятся новые задачи, для которых нужны именно люди. Так было всегда раньше.
7. Есть ли риски? Есть. Существует модель типичных видов деятельности. Оригинальное изложение не знаю. В моем изложении это модель ИРО По некоторым оценкам (источник не помню) И(сполнителей) порядка 85%. Они такие генетически или из-за патерналистской системы образования, неизвестно. Если генетически, то бурное развитие роботов будет их постоянно теснить в исполнительских задачах. Нужно будет им либо ориентироваться на гуманитарные виды деятельности, где у роботов пока все не очень продвинуто, либо жить в логике life long learning, постоянно развиваясь и занимая новые роли. В любом раскладе, переориентация системы образования неизбежна на более творческое и ответственное поведение. Роботы и ИИ дополнительный толкач этой постановки задачи, хотя и без них доводов в пользу индивидуальных образовательных траекторий и пожизненного обучения давно назрел. Систему образования всю перестраивать заново всем в лом: задача тяжелая и непредсказуемая, а отвечать никому не охота. Поэтому ее пытаются рихтовать в разных направлениях, пока она сама не развалится окончательно.
8. Есть ли риск настоящего (не узкоспециализированного) ИИ? Пока неизвестно. Чем дальше в мозг, тем больше проблем.
9. О чем на самом деле стоит думать с большим страхом– об инфантилизации всего мира. Работа все больше напоминает игрушки. Тяжелых физических усилий все меньше. Рисков для жизни все меньше. Здоровья все меньше (человек как вид без медицины уже нежизнеспособен). Над детьми при этом учинили гиперопеку и они не взрослеют до пенсии или даже до ящика. Вероятность катаклизма от инфантильного взбалмошного политика с каждым годом выше. Только на ИИ вся надежда– тот лишен эмоций и проблем взросления.
10. Гораздо выше риск фашизма в логике Познера– в дешевых источниках энергии, открытие которых ожидается к 2035 году. Энергия– это путь ко всем ресурсам, за которыми всегда гналось человечество. Дешевая энергия– дешевые ресурсы. Тогда не нужны становятся деньги как стабильный и довольно дорогой эквивалент любого товара. Они достанутся всем или избранным? Будет ли это интеллектуальная элита или военная или финансовая?

Учитель – Цифра = Мотивация

Благодаря цифре, стало ясно, что в работе учителя больше слоев, чем считалось раньше, в доцифровую эпоху.

Передача информации, отработка упражнений легко могут заменяться роботом. Но раньше сама информация была дефицитом, поэтому «ношение» информации учителем уже было ценностью, а учение, по сути, заключалось в переносе информации из головы учителя в голову ученика. Кто и что там продумывал– большой вопрос.

Именно поэтому «передача знаний» до сих пор на языке, и ее, подчас, заменить в речи нечем, хотя в новом отношении к знаниям их нельзя передать, ибо знания– это интимный процесс переработки информации. Ну, невозможно их передать без личной обработки в таком понимании. Только информацию можно передать.

Зато с очевидной рельефностью встает вопрос мотивации: с чего вдруг ученик эту информацию должен получать, да еще и перерабатывать? Дефицита информации нет, ценен результат итогового экзамена, а не личная картина мира. Убедите меня: почему я должен эту вашу информацию терпеть и переваривать?

И тут большой вопрос– кто носитель мотивации? Какой мотивации? Хотелось бы видеть мотиватором человека. Да еще и достойного. Вот главный запрос цифрового века, когда нет проблем с информацией, зато есть с мотивацией. IMHO

PS. Это был просто пост в ФБ в ответ на развернувшиеся там дискуссии на тему возможности/невозможности замены учителя цифрой. Поскольку он был позитивно принят коллегами, решил продублировать для сохранности здесь.

PPS. Цифра как шанс Учителя, 21.6.2019

Роботы без Азимова?

Завтра в Европарламенте обсуждают рекомендации по приданию роботам прав в логике юридических лиц. И хотя комментаторы пишут, что понятие «электронная личность» имеет такое же отношение к человеческой личности, как «юридическое лицо» к человеческому лицу, наши православные уже заволновались о перспективах уничтожения человечества. Рекомендации Европарламента прямо с первых строк мотивирующей части документа отталкиваются от наиболее известных художественных образов.

Страхи можно понять: о возможном вытеснении людей роботами звучит из уст не только футурологов, но и экономистов. Исторические экскурсы про луддитов в позапрошлом веке и про бухгалтеров в совсем недавнем прошлом успокаивают не всех. Перед образованием встают вопросы, чему учить, чтобы не попасть под сокращения из-за роботов в ближайшем будущем.

У нас есть аналогичная законотворческая инициатива Гришина, на которую я недавно отреагировал.

В том же ряду стоит рассматривать 23 принципа искусственного интеллекта (ИИ), которые подписали очень уважаемые в ИТ западные знаменитости. Они отличаются по жанру и по направленности (ИИ, а не роботы), но по сути это примерно одно и то же– регулирование сферы использования умных технологий. Я не отделяю ИИ от роботов, поскольку чистый ИИ– сущность условная: в той или иной форме он должен оказывать воздействие на нашу жизнь. В роботах это проявляется более явно. Но суть от этого принципиально не меняется.

Любители фантастики и все, кто связан с робототехникой, наверняка знают 3 закона робототехники из рассказа Азимова «Хоровод» (1942), исключающие агрессивность роботов:

• Первое: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
• Второе: робот должен повиноваться всем приказам, которые дает человек, если эти приказы не противоречат Первому Закону.
• И третье: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.

Позднее в романе «Роботы и Империя» (1986) интеллектуальные гоминоидные роботы выводят 0-й закон, вычислив который логическим путем, выходят из строя:

• 0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

На удивление, в предлагаемых нормах, с которыми удалось столкнуться, эти давно известные всем любителям научной фантастики законы никак не отражаются. Еще до принятия юридических норм первые практические реализации умных технологий направлены против человека: силовое подавление и лишение приватности. Неужели эти короткие формулировки законов оказались слишком наивны? Азимов из исторического далека ошибался или мы легкомыслены?

Мне эта тема показалась важной, в упомянутых текстах не все понравилось, поэтому захотелось отнестись, в надежде обратить внимание коллег и общества на эту тему, пока не поздно. Мне кажется, что в предложениях в логике понятийных сущностей типа юрлица или робота-агента не учтены важные системные упущения действующего законодательного принципа, унаследованного с доисторических времен: закон нацелен на поиск виноватых и их наказание. Закон должен быть нацелен на предотвращение, а не на месть.

Подписанные знаменитостями 23 принципа, изложенные в иной логике и акцентированные на ИИ, могли бы стать альтернативным направлением нормотворчества, но они показались мне, во-первых, слишком длинными, во-вторых, слишком умозрительными и поэтому нежизнеспособными. Подходы составителей к безопасности вызвали у меня смущение: я не понимаю ограничений на исследования, кроме страхов. Страхи не могут помочь в безопасности. Если миссия нашей цивилизации– создать новый разум, никакими формальными ограничениями этот процесс не остановить. Принципы типа хартии– это неплохо, если их немного. Безопасность я вижу не столько в хартии, сколько в жесткой нормативной регламентации на этапе реализации изделий. И пусть исследуют, что хотят. Генетические и бактериологические исследования более опасны, но их не могут контролировать.

С чем я полностью согласен, что исследования должны вестись открыто. Даже если будут выкладывать в доступ не все, обязательство заявить о своих работах и что-то публиковать обеспечит возможность мониторинга за теми, кто работает в сфере ИИ.

В качестве альтернативы, хочу предложить свои соображения о подходе к нормам будущего законодательства с учетом ИИ.

Управление рисками и жесткая регламентация

Поскольку силовые задачи человечеству нужны, в целях безопасности нужно, прежде всего, жестко разделить регламентацию силовых и гражданских изделий:

• Силовые установки должны иметь броскую недвусмысленную внешность, предупреждающую издалека о своем назначении. Силовые установки должны исключать возможность спутать их с естественными животными организмами, прежде всего, с человеком, и с типовыми для обыденной жизни гражданскими установками. Безопасность силовых установок должна обеспечиваться жесточайшей регламентацией. Например, запрет создания многофункциональных силовых установок– только узкоспециализированных. Это позволит алгоритмически ограничить сферу их использования. Формирование многофункцинальных групп из разных установок можно ограничить особыми условиями, прежде всего, под особым внешним контролем и при наличии «волшебной кнопки» самоликвидации.

• Гражданские установки должны жестко соблюдать законы Азимова. Нулевой закон Азимова, предполагающий приоритетность человечества над отдельным человеком, не может реализовываться гражданскими установками– функция силовой защиты людей друг от друга должна быть возложена исключительно на силовые установки. В безопасности гражданских установок люди должны быть абсолютно уверены, как и в надежности распознавания вида установки: силовая или гражданская.

Упомянутые 23 принципа ИИ при соблюдении законов Азимова гражданскими установками основную массу пользователей волновать не должны. Подразумеваемые в них риски могут проявиться только в силовых и экспериментальных установках.

Я вижу 3 уровня решения задач безопасности в соответствии с уровнями рисков:

• механические риски
• риски операционной системы (ОС)
• риски логических выводов ИИ

Все конкретные риски должны быть классифицированы и документально отражены, в том числе, в виде внешней маркировки. Чтобы законы исполнялись,

• механическая установка должна быть описана разработчиком с точностью до конкретных рисков, чтобы разработчик операционной системы целенаправленно строил программную реализацию, обеспечивающую их контроль.

• Кроме контроля за механическими рисками, ОС должна иметь систему блокировок на случай программных сбоев и коммуникационных задержек.

  Тестирование установки должно заключаться в проверке всех описанных ситуаций. Если несчастный случай произойдет по причине, отсутствующей в описании рисков, за нее должен нести ответственность разработчик.

• Системы ИИ не должны иметь возможности причинить вред человеку. Полагаю, они должны иметь два уровня:

  • защищенный приоритетный уровень безопасности (законы Азимова),
  • функциональный уровень, ответственный за целевые гражданские задачи.

  Возможно, слой безопасности логичнее реализовывать как часть операционной системы, потому что безопасность конкретной установки зависит от ее механических возможностей. У Азимова соблюдение законов предполагалось даже на аппаратном уровне– именно поэтому модуль управления роботов сгорал раньше, чем он мог законы нарушить.

Альтернатива может быть в том, чтобы слой «защитника» был самоценным для любых систем, потому что защита нужна не только механическим установкам. Мы все чаще и все плотнее работаем с системами ИИ, полагаясь на свой здравый смысл, не имея полного представления о работе ИИ. Есть смысл логику документирования рисков и формирования защитной прослойки с ИИ на основе конкретных рисков использовать не только в роботизированных системах.

Мы знаем, что обходят сегодня практически все, но сложность такого обхода должна быть существенно выше ценности такого пути.

Гражданские отношения

Кроме технологических мер, есть и гражданская ответственность разработчика, изготовителя, продавца, владельца, сервисной службы и хакера, взламывающего штатный режим изделия, обходя технологические барьеры. Если удастся сделать хороший защитный слой на базе ИИ, можно все эти сложные комбинации ответственности свести к отношениям вокруг него. А условием внешней ответственности для потребителя должен быть жесткий регламент запуска системы под защитным слоем.

Реализация законов Азимова неизбежно приведет к изменению законодательных принципов в обществе, потому что простая формулировка «причинить вред человеку» требует формализации, а это, по сути, вся нормативная база, построенная сегодня в логике наказания. А наказание бессмысленно в отношении робота. Наказание в отношении человека тоже бессмысленно, но мы уже так привыкли. Будучи переформулированными для робота, варианты причинения вреда человеку начнут пересматриваться в отношении людей, ибо это более разумно и эффективно.

На месте великих подписантов 23 принципов ИИ, я бы призвал к пересмотру принципов построения законов, унаследованных человечеством со времен рабовладельчества, а не к ограничению исследований ИИ на базе собственных страхов.

PS. 16 февраля Европаламент принял текст.

Робот, ты не прав!

Гришин бросает Азимову и всему миру вызов на ниве законодательства в отношении роботов. Законы о роботах обычно связывались в голове с рассказом Азимова «Хоровод». Я даже на основе этого рассказа проводил уроки информатики– получалось неплохо. Но сейчас о них вспоминать становится даже неловко, ибо первые роботы нашли применение в полной противоположности законам робототехники Азимова: для уничтожения человека. К сожалению, это обычно для человечества.

По взрывному росту популяции роботов вокруг нас можно уверенно констатировать начало эры Азимова, о которой он размышлял в середине прошлого века, прорабатывая в своих произведениях отношения человека и роботов. Его книги о роботах– сокровищница современных робототехников, хотя все может пойти по другому, чем ему виделось в этике и эстетике своего времени.

Однако, несмотря на рост достижений в области искусственного интеллекта вплоть до побед его над человеком в ряде традиционно человеческих интеллектуальных задач, вопрос законодательной проработки участия роботов в нашей жизни пока никто не ставил. До Гришина Дмитрия Сергеевича. Он опубликовал для обсуждения свой проект. При рассмотрении нормативных задач предполагается выделить несколько подходов правового регулирования:

• приравнять роботов к животным (применить те же принципы и подходы, например, в случае ответственности владельца источника повышенной опасности);
• использовать концепцию, близкую к юридическим лицам;
• решить вопрос по аналогии с физическими лицами.

Меня радует сам факт такой постановки задачи, потому что нашествие роботов уже стало реальностью– значит, пора заняться регулированием их использования и участия в жизни. Заодно могут быть заполнены лакуны использования программного обеспечения, которое не менее действенно в современной сетевой жизни, чем механические последствия физически осязаемых роботов.

Если же обсуждать изложенные подходы, мне они не кажутся исчерпывающими. В роботе я вижу много слоев отношений, каждый из которых требует адекватного отражения:

• искусственный интеллект, который может быть реализован как локально, так и в сети
• программное обеспечение без особых интеллектуальных функций, которым робот управляется
• механические конструкции, которые могут нанести физический ущерб

Особо стоит выделить вполне ожидаемую ситуацию с нежелательным вмешательством в работу робота на любом уровне его системы. Кто и за что должен отвечать в случае нежелательных действий робота в ситуации намеренного вмешательства внешних сил?

С точки зрения ответственности, механические конструкции могут быть многоуровневыми: базовый конструктив с загружаемой логикой и широкий спектр сторонних дополнительных аксессуаров, которые могут поставляться различными сторонними разработчиками. В случае нежелательных механических повреждений, кто должен отвечать: разработчик базовой конструкции или внешнего аксессуара?

Упомяну без раскрытия очевидный аспект баланса ответственности изготовителя, владельца и пользователя робота. Там тоже масса нюансов, которые упомянутыми 3-мя подходами не покрываются.

Но самый главный риск я вижу в наказательной концепции законодательства: не предотвратить нежелательное, а наказать виновного, дабы другим неповадно было. Причем, на западе наказательная модальность даже сильнее вызвана, что проявляется на политическом уровне в виде санкций: стремление подавить нежелательное поведение страхом наказания.

В этом контексте очень показательно уточнение Якова Кедми, развенчавшего длительно насаждаемый миф советских СМИ о мстительности израильской разведки. Нам неоднократно рассказывали про уничтожение всех участников группы захвата израильских спортсменов на Олимпиаде и террористов по другим эпизодам. Кедми совершенно иначе повернул вектор активности спецслужб Израиля: не отомстить за содеянное, а предотвратить новые негативные события. Их уничтожили не потому, что они что-то уже сделали плохое, а потому, что они готовили новые теракты. Если бы затихли, на них бы время и силы не тратили.

И тут мы попадаем в катастрофическую цивилизационную дыру правовой системы, доставшейся нам в наследство. Меня подняли на смех после заметки о римском праве как основе системы, построенной на поиске виновных и их наказании. Никто не готов кардинально пересматривать эту систему– слишком много рисков и трудозатрат. Однако именно роботы могут стать тем стимулом, который заставит изменить подходы. Возьмем за пример жуткие теракты, которые были совершены с помощью мирных аппаратов: самолетов и грузовых машин. Только представьте, что там бы не было водителей, а они бы были на автопилоте?

Если пересмотреть законы в русле предотвращения нежелательных событий, законодательство о роботах может быть вполне органично и не слишком проблемно. Если же законы остаются в логике мести за нарушения, что более вероятно, по крайней мере пока, это может существенно ограничить применимость роботизированных систем рисками последствий за непредсказуемые события. Можно, конечно, надеяться на статистику, но скорость изменений в науке и в обществе делает статистические циклы короче. Посмотрим.

PS. Оказалось, что нормативных инициатив уже несколько