Концепт реконструкции 273-ФЗ

• 18-минутный преддоклад с общими идеями в виде видеоролика и аудио-конкаста
• Информативный 22-минутный видеофрагмент из 2-часового zoom-обсуждения с лидером ассоциации семейных школ
• Текст сборки по итогам обсуждения (статья-ВК)
• 13-минутный стендовый доклад на конференции в Шанинке «Функциональная реструктуризация в системе образования» 25.01.2021 как видео или аудио-конкаст

---

Пояснения в внешнему виду:

• Обычный вид текста – авторский текст или перефраз существующей нормы.
• Желтый фон – цитирование нормы закона (в скобках в конце цитаты отсылка на главу/статью/пункт; при отсутствии – из той же статьи).
• В названиях глав и статей формулировка может быть скорректирована автором – в скобках отсылка на номер существующей в законе.
• Статьи без раскрытия – детально не разбирались, избегая слишком большой детализации, т.к. не сочтены важными для изменений (с точностью до новых терминов), оставлены для сохранения общей структуры и соотнесения с существующим законом.
• В конец вынесены те, которые предлагается исключить в отдельный реестр с исключениями и уточнениями.
• Главы про управление и финансирование не разбирались: при уточнении измененных подходов должны быть расмотрены более внимательно.

Текст концепта (формат Word) размещен на GoogleDisk.

Не расстанусь с бумажками!

Люди с трудом осознают, что привычные в старых условиях нормы в новых условиях могут быть вредны и даже опасны.

В бумажную эпоху даже простая копия официальной бумажки была проблемой, почти нерешаемой.

• Был период, когда на документах не было фотографий— технически сложно.
• Потом ч/б фото перестало быть проблемой.
• Потом цветное.
• Потом появились копировальные аппараты. Копию от оригинала было видно за километр...

Но пока вся информация была на бумаге, ее свободное распространение было все ещё проблематично. Именно поэтому бумажные документы всегда были избыточны— сложно совместить данные из разных бумажных источников. Когда документ в цифре и кругом сети, любая информация мгновенно передаётся и легко комбинируется/совмещается из разных источников. Логика бумаги стала избыточной— а ее сохраняют по привычке.

Концентрация в одном месте разных данных— это избыточность. Чем легче совмещать разные данные, тем дальше они должны быть друг от друга, чтобы на их совмещении было сложно построить новую информацию за рамками требуемой, для которой они хранятся.

Правила о персональных данных сидят между двух стульев:

• с одной стороны, бережно хранится избыточная логика бумажных документов
• с другой стороны, предпринимаются неуклюжие попытки ограничить их прозрачность

Это невозможно! Это бесполезная кормушка для безопасников. Надо полностью перепроектировать логику работы с данными в условиях цифровой информации и сетевого взаимодействия. Бумажный опыт годится только для подстраховки и резервирования на случай сетевых сбоев.

Простейший критерий удачного проекта новой организации работы с перс.данными—рекламщики не могут ломиться к человеку никаким образом. Вся реклама должна идти через специализированный рекламный маркетплейс (куда я сам зайду, когда нужно что-то купить/заказать) или обезличенно через посредника по выявленному им косвенно интересу при наличии в настройках «галки»-желания получать рекламу в ответ на похожую услугу/товар.

Всякие «экосистемы» для сбора разнородной информации обо мне с целью удачно впаривать свои товары/услуги, есссно, вне закона— каждый сервис должен быть изолирован и обезличен.

(перепост себя же из facebook)

PS. Изложение предложений по изменению логики защиты данных с подборкой ссылок о коррекции 152-ФЗ.

«Не стреляйте пианиста» (учителя)

Прочитал умную заметку про низкий психологический профессионализм учителей и разозлился. Не потому, что это неправда— правда. А потому, что это увязали с причиной агрессии учеников, вплоть до стрельбы (по следам казанской истории). Вправе ли мы винить учителя за подобное?

Вправе винить, но не за это. За отсутствие культуры коммуникации в классе, в школе— да. Ровно про то же, что и про популярную тему «буллинг». Одного поля проблема.

Даже вполне грамотный и психологически уравновешенный учитель работает в условиях, когда он вынужден «включать» психологическое подавление. Потому что он бесправен. Школа бесправна. Она обязана принимать всех и учить всех. Как детей из семей с нормальным психологическим климатом, так и пограничных. Ещё Юнг писал, что «психологические проблемы детей надо лечить у их родителей». А школа, не будучи готовой лечить, вынуждена их учить. Причём «родитель всегда прав». А когда неправ— это проблема школы. И никто не может проблемных детей направить специалистам, вопреки готовности и желанию их родителей.

И, вот, сидят перед наученным учить по утверждённой программе учителем 30—40 гавриков, среди которых как минимум 2, которые человеческого русского языка не понимают и вести урок в психологически комфортном режиме не дают, все время тянут внимание на себя. Учитель мог бы с ними персонально все изучить в соответствии с их способностями и психологическими особенностями. Но что в это время будут делать остальные?

И учитель включает режим подавления. Но работа фронтальная в классе, поэтому под подавление попадают все. В том числе, которым это противно и избыточно. Но они вынуждены терпеть, не всегда понимая по возрасту причину. А дальше—от квалификации учителя. Кто пограмотнее, может управлять и ограничиваться минимумом. Кто потупее—прут на режиме подавления все время. Иные администраторы в школах так строят отношения даже с учителями— чтобы минимизировать споры. Это профдеформация фронтального учителя: «Если в транспорте кто-то кого-то воспитывает, один из них учитель».

Это оборотная сторона всеобщего права на обучение в государственной школе без права школы на решения проблем, в которых школа некомпетентна. Не хватает учителям школ психологической культуры и образования— это правда и это надо менять. Но даже грамотный психологически учитель не должен выполнять одновременно две совершенно разные функции— учебный процесс и психологическую диагностику, и тем более коррекцию.

Мы говорим о праве на индивидуальную образовательную траекторию— это право на выбор учебной программы и учителя. Но право— это и обязанность. Если слепой хочет научиться на Робин Гуда, он должен иначе учиться с другим учителем, чем зрячие, и осознавать возможности/риски. Умный это понимает сам. Инфантильный будет ломиться в ту же группу. А родители часто хуже ребёнка осознают ситуацию.

Пока мы не научимся различать услугу и обслугу, мы будем путать обучение и «сделайте мне красиво».

PS. Это репост из ФБ, который оказался популярным. После этого было устное обсуждение с Еленой Миркиной и Павлом Максименко (1 час).

Принципы приватности

Сформулировал некоторые принципы об обеспечении приватности и изменении закона 152-ФЗ «О персональных данных», в развитие прошлых постов (ссылки в конце поста).

Архитектурные принципы:

1. Не подлежат сокрытию «общегражданские данные»: уникальный идентификатор, фото, ФИО, дата рождения, город проживания (районный центр для небольших населенных пунктов). Эти данные нужны для обеспечения гражданской ответственности как идентификационный признак и традиционно известны многим по реальной жизни. Но подлежит особой защите надежность и достоверность этих данных как основа всех иных персональных данных.
2. Существует открытый общедоступный государственный сервис подтверждения идентификации персоны. В этом качестве может быть использован, например, ЕБС.
3. Государство в лице госпочты и МВД гарантирует доставку официальных обращений любому и каждому, находящемуся на территории России. При наличии соответствующих международных соглашений— также и за рубежом. Это исключает необходимость детализации в гражданско-правовых отношениях любых иных персональных данных, кроме общегражданских и представляющих предмет этих отношений.
4. Каждый сервис, в том числе для реализации государственных услуг, включает только те данные, без которых он невозможен. Дополнительные возможности сервиса на основании обработки дополнительных данных рассматриваются как отдельный сервис, требующий интегральной выборки данных с базовым сервисом.
5. Каждый сервис, в том числе для реализации государственных услуг, имеет собственную уникальную идентификацию в цифровом формате, который сохраняется на стороне клиента для автоматизации каждого нового доступа. Для интеграции данных из разных сервисов нужно иметь таблицы соответствия идентификаторов разных баз, которые есть у владельца данных и у уполномоченных государственных регуляторов в рамках их компетенций. Доступ к каждому сервису пользователь хранит в зашифрованной базе данных на личных устройствах (можно задачи доступа реализовать в логике работы «цифрового ангела» либо иметь на нем резервную копию данных авторизации, находящихся на личном мобильном устройстве).
6. На основании идентификации для каждой сессии генерируется уникальный токен. Любые транзакции осуществляются обезличенно только по уникальному токену. Это позволяет в большинстве случаев открыто передавать обезличенные данные с уникальным для сессии токеном, и тем самым создать удобные условия для общедоступного статистического анализа.
7. Права доступа к каждому полю баз данных регулируются отдельно. Это позволяет избежать несанкционированной выборки данных, кроме допустимых для каждой регулируемой роли.

Принципы обработки:

1. Интеграция данных из разных баз, как правило, запрещена. Осуществляется при наличии явно выраженного запроса от дееспособного владельца данных либо его ответственного представителя на законных основаниях. Выборки с интегрированными данными должны надежно уничтожаться оператором, исключая возможность несанкционированной повторной выборки, сразу после передачи заказчику.
2. Обработка интегральных данных без запроса владельца данных возможна для ситуаций предотвращения угроз жизни или здоровью людей, чьи данные собираются. Помимо владельца данных, возможны запросы на обработку интегральных данных при следственных действиях и для решения иных задач, непосредственно предусмотренных законом.
3. Недопустимо требовать от пользователя согласия на избыточные выборки как условие использования сервиса. Недопустим отказ в реализации части доступных функций под предлогом отказа пользователя от запроса на иные виды обработки данных.
4. Владение несколькими сервисами не дает права делать агрегированные выборки или синхронизацию данных между ними без явно выраженного желания пользователя.
5. Работа любых сервисов, прежде всего социальных сетей, должна быть ограничена правом владельца сервиса обрабатывать хранимые там данные.
6. Владелец сервиса может выступать посредником для адресной доставки рекламы или иной информации на основании совпадения ключевых признаков, в том числе на основании интеллектуальной машинной обработки. Но он не вправе передавать идентификационные данные и обеспечивать доступ сторонним сервисам для сборки данных на основании их отношения к идентифицированным пользователям, даже если сам идентификатор обезличивается.
7. Все акты обращения к данным должны протоколироваться и предоставляться владельцу данных виде, удобном для хранения и анализа. Могут временно защищаться от владельца факты доступа к его данным для скрытных следственных действий на основании санкции уполномоченных органов.

В развитие ранее опубликованных постов о цифровом паспорте и о «цифровом ангеле». В конце этих постов есть ссылки в их развитие. В том числе, на этот пост.

Про субъектность робота

Вадим Чеха на обсуждении новых норм поднял тему придания компьютерным платформам права субъектности. Тема зацепила не только и не столько в текущем виде, хотя это очень важно, сколько на перспективу. Что получится из размышлений по ходу написания этого текста, самому интересно.

Будем считать это за...

...ветвь рассуждений 1

.

Сразу по ходу уточнения, я вынес тезис, который продолжаю считать правильным:

• Если речь об операционных задачах, которые обычно выполняли люди, то это можно и нужно.
• Если речь об ответственности как стороны договора, то сомнительно.

При этом я плохо понимаю, зачем для операциональных функций может быть нужна юридическая субъектность? Например, сбором данных соискателя, их проверкой и оформлением на работу занимается бот. Какая разница, выполняется эта функция человеком или ботом? Если возникнут сомнения/возражения/уточнения, с ними все равно пойдут к ответственному за это направление работ человеку. Можно ли и нужно ли какие-то функции полностью доверять боту без живого человека как решателя нестандартных непредусмотренных алгоритмом ситуаций? Я не думаю.

Ветвь рассуждений 2

О возможности ИИ через сбор данных нейроактивности (эксперимент Маска) выявлять способности и склонности человека без его сложных процессов самосознания, то бишь формирования субъектности как личности в строгом понимании. То есть, ИИ может провести человека по образовательной траектории без формирования субъектности на основе анализа реакций мозга на разные жизненные события. Таким образом, он алгоритмами может подменить человеческую субъектности– именно то, что мы ожидаем от персонализации, становления личности.

Ветвь рассуждений 3

О демократии. Изначально правом обладали не все люди, а только некоторые. В этом я увидел преимущество, потому что в политике должны участовать только те, у кого есть своя политическая позиция. Именно поэтому мне близка идея представительной демокраии, когда не имеющий своей позиции может поручить свой голос тому, кому он доверяет и кто имеет позицию. Все бы было с этой идеей здорово, если бы не возможность манипуляций– как минимум, банальной продажи голосов вместо ответственного перепоручения.

Если же вернуться к истокам, чтобы давать голос не всем, то возникают вопросы: кому давать и кто это будет решать?

Сомнения-сборка

Есть мысль на пересечении рассуждений: так, может, ИИ выявит, у кого есть политическая позиция, а у кого ее нет?

Но, если ИИ не субъект, то решение алгоритма зависит от людей. Опять дырка для возможности манипуляции. Причем еще менее заметная, хуже поддающаяся контролю, чем в классике. Если бы ИИ был независимым субъектом, ему можно было бы доверять. Но для этого должен быть надежный механизм контроля его логики: вмешиваться в него нельзя, а проверять логику можно и нужно открыто.

Наклевывается вывод о целевом подходе к субъектности бота: невозможность вмешиваться и механизм открытого доступа к логике с процедурами поверки. С другой стороны, традиционное представление о субъектности заметно иное. Юридическое представление о субъектности изучать пока не готов. Напрашивается аналогия с открытым программным обеспечением и платформой с общественным контролем за ее работой. Конкретный оператор, отвечающий за функцонирование, и распределенная ответственность сообщества за право и правила ее использования.

PS. Тему распределения ответственности за действия робота между владельцем и производителем (в том числе, разработчике ПО) я намерено не рассматриваю, т.к. ее уже активно обсуждают специалисты и т.к. по самому характеру обсуждения о субъектности робота в данном рассмотрении говорить не слишком уместно.

Просветим средневековье?

Считаю, что в эпоху избытка информации нужно оставить понятие «просвещение» культурно-историческим феноменом без официального регулирования

Законопроект 1057895-7 предлагает официальное определение понятию «просветительская деятельность» и ее регулирование в рамках федерального закона 273-ФЗ «Об образовании в Российской Федерации».

Просвещение было значимо для общества на этапе огромного дефицита информации, когда наука была вторична по отношению к религиозным догматам, а картина мира определялась смесью веры и суеверий. Просвещение несло свет знаний в темноту примитивных представлений о мире. В эпоху уважения к науке, к доказательности понятие «просвещение» носит скорее символический и брендовый характер, чем деятельностный.

Утверждаю, что

• законопроект вреден для целей образования,
• «просветительская деятельность» как нормативная сущность надумана и избыточна,
• меры регулирования необоснованно дублируют другие нормативные акты.

В логике проекта предусмотрено 4 пункта поправок в 273-ФЗ:

1. Декларативное определение понятия «просветительская деятельность» как признак регулирования (в статье 2 о понятиях).
2. Наделение ФОИВ правом координации в вопросах международного сотрудничества (в статье 6).
3. Регламентация деятельности по заявленному признаку (новая статья 12.2 в главе 2 о системе образования).
4. Введение дополнительных административных барьеров для международного сотрудничества в образовательной сфере через новые разрешительные механизмы (в статье 105 про формы и направления международного сотрудничества).

Комментарий к п.1.

Просвещение характеризуется признаками, которые никакого отношения к предложенному в проекте не имеют:

• приоритет научного знания перед религиозным, в том числе против суеверий;
• расширение целевой аудитории от избранных к максимально широкому.

Образовательные программы, которые являются квалифицированным признаком согласно проекту, не ограничены наукой. Под указанный в проекте признак попадает любой, кто делится информацией без образовательной программы – это практически все, учитывая развитую информационную среду общества. Предложенное в проекте описание делает признак не только бессмысленным, но и опасным.

Комментарий к п.2.

Наделение ФОИВ правом координации международной деятельности не вызывает неприятия, но вызывает недоумение. Действующий закон регулирует мониторинговую деятельность и определяет ФОИВ полномочиями нормативного регулирования всей сферы образования. Что мешает сегодня без изменений в законе реализовать эти задачи?

Комментарий к п.3.

Предложение запретов уже регулируется другими нормативными актами:

• Почти все ограничения отражены в Федеральном законе от 25 июля 2002 года N 114-ФЗ «О противодействии экстремистской деятельности» (с изменениями на 8 декабря 2020 года). Статья 15 определяет ответственность любого автора, кто подпадает под определения экстремистской деятельности.
• Остальные ограничения типа «сообщения недостоверных сведений об исторических, о национальных, религиозных и культурных традициях народов» предельно близки по смыслу нормам статьи 13.15 КоАП, согласно Федеральному закону от 18 марта 2019 г. N 27-ФЗ «О внесении изменений в Кодекс Российской Федерации об административных правонарушениях»

В КоАП тезисы выглядят так: «Распространение в средствах массовой информации, а также в информационно-телекоммуникационных сетях заведомо недостоверной общественно значимой информации под видом достоверных сообщений»

В действующем виде КоАП различает ответственность по мере воздействия на общественно-опасные последствия распространения информации. В предлагаемых изменениях о регулировании недостоверной информации об истории, религии, культуре и национальных традициях вызывает большое сомнение критерий различий между научными фактами и научными сомнениями, между гипотезами и ошибками.

Считаем возможным отменить дискуссии в науке и обществе по этим вопросам?

Комментарий к п.4.

Последний пункт проекта вносит дополнительные административные барьеры. Это противоречит всем ранее заявленным целям в сфере образования, неоднократно декларированным Президентом– задаче выведения российского образования в лидерские позиции на международной арене. Кто бы не занимался регулированием этого сотрудничества, Правительство, как предлагает проект, или ФОИВ, это бюрократический барьер, который никак не помешает в информационной войне, против которой, вероятно, направлен данный проект, зато сильно помешает продуктивным образовательным программам. Образовательные отношения с международными партнерами надо не ограничивать дополнительными барьерами, а расширять, снимать избыточные барьеры, если перед системой образования поставлена задача выйти в группу мировых лидеров.

Вывод

Нарушение любыми лицами, независимо от гражданства, законов Российской Федерации должно преследоваться соответствующими нормативными актами, в зависимости от классификации нарушения.

Закон об образовании регулирует образовательные отношения. Образование вредным не бывает. А для состязательности с попытками навязать нашим гражданам иные картины мира, надо развивать свою систему образования, чтобы она не ограничивалась просто просвещением, а несла больше пользы и становилась более привлекательной не только для граждан России, но и за рубежом.

Качественная и гибкая система образования в условиях избытка информации всегда выиграет у любой пропаганды, даже если она будет под флагом «просвещения».

Слезы по СанПиН

28.09.2020 было принято Постановление Главного государственного санитарного врача Российской Федерации №28 «Об утверждении санитарных правил СП 2.4. 3648-20». Сами СП «Санитарно-эпидемиологические требования к организациям воспитания и обучения, отдыха и оздоровления детей и молодежи» опубликованы 22 декабря, вступают в силу с начала 2021 года и ограничены сроком до 2026 года включительно.

Так случилось, что я принимал участие в обсуждении проекта в ОНФ 21 сентября, т.е. за неделю до их принятия. Получается, что эти замечательные правила прошли широкое общественное обсуждение перед принятием, хотя добрых слов проекту практически не было в процессе обсуждения. А я получаюсь причастен и к обсуждению, и к принятию.

Поскольку существенных изменений в проекте на пути к принятию не случилось, публикую открыто свою реакцию на приглашение к обсуждению и свои рекомендации по итогам.

Ответ на приглашение и название темы моего выступления от имени Лиги образования

Красивая тема не получится– уж больно он уродлив и по форме, и по содержанию.

Тема в моем понимании: «СанПиН должен быть удобен, понятен, полезен».

Сейчас он неудобен, непонятен, вреден для дела, которым занимаются люди, вопреки этому тексту. Нужно менять и структуру документа, и смыслы. 

Если он пишется специалистами для неспециалистов, неспециалисты должны затрачивать минимум усилий для исполнения правильных тезисов специалистов. Для начала надо четко и здраво ответить на вопросы:

• кому он нужен?
• зачем он им (кому нужен) нужен?
• что они должны делать для этого? (удобно структурировано по видам деятельности)
• как выходить из нештатных ситуаций, которые неизбежны? (по видам рисков–хотя бы контур, куда бежать)

Сейчас основной вопрос, на который можно найти ответ– что нарушили люди, если их нужно наказать?

Причем, сами они этот ответ вряд ли найдут, потому что документ многослойный и запутанный. А самая очевидная цель представленного документа– авторов нельзя уличить в том, что что-то забыли запретить. Виновные будут только исполнители, причем всегда, когда это нужно проверяющим.

По двум аспектам– туризм и цифровые технологии– я хорошо понимаю темы и вижу откровенное вредительство. Подозреваю, что по остальным ситуация не лучше. Но запутанность и непонятность текста очевидна и без понимания сути проблем.

Рекомендации по доработке проекта

Нужно исключить жесткие запреты и регламенты в пользу выявления вредных факторов и мер по их защите. Должен быть крайне узкий спектр безусловных норм, нарушение которых может препятствовать получению разрешения на ведение процесса.

Особенно осторожно нужно отнестись к цифровым технологиям, которые стали ареной идеологически-технологической войны. Современная цифровая техника обладает множеством полезных и вредных факторов, влияние которых сильно зависит от методики использования. Попытка защитить от вредных факторов при методически неграмотном применении влечет неоправданные помехи организации образовательного процесса при методически грамотном применении. Тем более, 35-летний опыт использования, начиная с самых допотопных и заметно более вредных для здоровья цифровых аппаратов, не показал очевидных вредных воздействий.

Как минимум, нет достоверных данных о влиянии конкретных технических параметров на конкретные негативные ущербы здоровью людям, которые их активно использовали, хотя из общих соображений и биологических экспериментов над отдельными клетками и мелкими организмами можно говорить о существовании вредного воздействия. Однако, в части излучений, низкочастотные мощные нагрузки (например, утюги) оказывают несопоставимо более вредное воздействие, чем высокочастотные маломощные цифровые устройства. По качеству изображения они давно опережают многие книги. Вред для глаз больше связан с отсутствием глазной гимнастики, чем с использованием «цифры». При этом полностью отсутствуют аллергические проявления на книжную пыль, воздействие на позвоночник тяжелым портфелем...

Логика минимизации риска и опора на указание вредных факторов позволит предупредить организаторов образовательного процесса в тех областях знаний (защиты здоровья), в которых они не являются специалистами, и в то же время не ограничивать их в праве принятия решений. Раз они отвечают– пусть отвечают. Санитарные Нормы и Правила их проинформировали и рекомендации дали. Всех возможных вариантов сочетания разных факторов предусмотреть все равно не получится.

Конкретнее

1. Нормы и правила должны работать по логике управления рисками, потому что нет возможности исключить негативные факторы, но можно организовать деятельность так, чтобы минимизировать вероятность и масштаб их воздействия на здоровье.
2. Нужно четко ограничить область влияния и действия норм и правил санитарными задачами, без вмешательства в сферу методики и дидактики.
3. Нужно различать меры по минимизации риска негативных факторов в зависимости от меры их воздействия. В частности, кратковременное действие некоторых негативных факторов может быть ничтожно, тогда как при длительном воздействии защита от них требует специальных мер.
4. Нужно различать особенности ведения деятельности на регулярный, периодический, спорадический, экстремальный и форс-мажорный виды.
   • Регулярная деятельность подразумевает постоянное воздействие негативных факторов, взаимодействие с которыми требует выработки общепринятой культуры, воспринимаемой как банальность. Влияние на нее крайне сложно. Если в культуре принято правильное поведение с рисками, то специальные меры по контролю и проверке за ними будут избыточны и навязчивы– о них достаточно информационных ресурсов общего свободного доступа и редких напоминаний. Если культура поведения с рисками требует изменений, это большая работа.
   • Периодическая деятельность требует внимания за необычными факторами риска и постоянного контроля за мерами по защите от них, включая убеждение в их необходимости. В отношении сопутствующих регулярных видов деятельности (и привычных для нее рисков) отношение может быть как для регулярной деятельности.
   • Спорадическая деятельность должна быть подстрахована знаниями и навыками общего характера, чтобы избежать растерянности при необходимости действия в неожиданной ситуации.  Вероятно, можно не делить спорадическую деятельность и периодическую. Может быть виднее при детализации.
   • Экстремальная деятельность подразумевает необходимость специальных тренингов и высокой готовности к защите от негативных факторов высокой степени воздействия. При этом есть риск снижения внимания к регулярным рискам, теряющим значимость на фоне более опасных рисков.
   • Форс-мажорная деятельность происходит в ситуациях наступления рисков, от которых не удалось защититься. Нормы и правила должны содержать простые типовые инструкции, как себя вести и куда обращаться за помощью и детальными инструкциями для конкретной сложившейся ситуации.
5. Нормы и правила должны содержать перечень-типизацию негативных факторов воздействия на здоровье человека и принципы поведения, минимизирующие ущерб при различных вариантах столкновения с ними.
6. Для наиболее типичных кейсов должны содержаться подробные описания рекомендуемых (!) норм поведения в разных условиях. Именно эта функция норм и правил наиболее близка прошлой версии СанПиН. Но раньше она имела фискальный характер. В новой версии это должны быть рекомендации, отступление от которых должно быть аргументировано руководителем деятельности, несущим ответственность за жизнь и здоровье детей.
7. Стиль описания должен быть функционально структурирован, чтобы разные лица, ответственные за разные виды деятельности в образовательной организации или на мероприятиях образовательного характера, действующих в разных условиях, могли ограничиться изучением конкретных разделов, а не всего текста. В том числе, чтобы руководители могли легко понять по структуре документа структуру своих действий по минимизации возможных рисков для своих воспитанников/обучающихся.

Нужна мне новая Конституция без цифровой приватности?

Ценность Конституции для обывателя сомнительна (развернуто изложено в самом конце). Следует ли из этого, что мне ничего не нужно менять в ней?

Тема приватности в цифровом мире

Учитывая примерно 30-летний цикл обновления Конституции, тема приватности туда не попадает еще долго. А зря. Цифровая трансформация запущена, активно продвигается, и риски гражданского типа оказываются весьма острыми и, вероятно, необратимыми. Точка невозврата может пройти в ближайшие годы.

Делопроизводство в стране выстраивалось веками из логики движения бумаг. Информация на бумаге крайне сложно обрабатывается: конвертируется, дублируется, хранится, агрегируется. Логика бумажного документооборота выстраивается снизу вверх с агрегацией в виде всевозможных реестров и громоздких архивов. Сложность обработки довольно неплохо гарантирует приватность человеку. Это порождает риски в случае утери документа по любому поводу. Для разрешения этих рисков существуют довольно громоздкие процедуры в логике сверху вниз при активном тормошении бюрократов на всех уровнях самим интересантом.

Сегодня цифровая информация обладает умопомрачительной динамикой и конвертируемостью в любые формы «легким движением руки». Наложение цифровых технологий на традиционный бумажный документооборот создает абсолютную прозрачность всех. Особенно, с появлением центральных реестров данных. Все самые шокирующие версии из социальной фантастики типа Бредбери, Оруэлла, Зейделя и др. блекнут и становятся повседневной банальностью. Разве что, Большой Брат оказался Услужливым Официантом, что только усугубляет проблему: надсмотрщика мы опасаемся, а официанту сами все несем с готовностью, ибо это удобно «сейчас», а про «потом» мы не думаем.

При действующем законе «О персональных данных» мы пребываем в состоянии информационной катастрофы. Он кажется убедительным только с позиции бумажного документооборота раннего этапа цифровизации. Хотя даже тогда многие эксперты его жестко и, как выясняется, оправданно критиковали. Сегодня он не решает абсолютно никаких проблем, кроме обеспечения кормовой базы безопасников. Кто этого не понимает, почитайте рекламу Сбербанка, который предлагает не только банковские услуги, имея все паспортные данные своих клиентов, но и массу самых разных услуг типа видеостриминга, доставки, такси, магазинов... В его руках, таким образом, концентрируется практически вся мыслимая информация о клиенте, подкрепленная мощью обработки силами искусственного интеллекта, которым Сбербанк, как известно, активно занимается.

Все– клиент гол перед Сбербанком, причем он сам отдал ему всю приватную информацию. Поэтому я и называю его не Большим Братом, а Услужливым Официантом (helpfull waiter).

Лишение граждан права на частную жизнь– это конституционная гарантия. Добровольность отказа от приватности– не оправдание. Ничего защищающего их от уже наступивших цифровых рисков в новой редакции Конституции нет. Впрочем, государству такая перспектива выгодна: при цифровой прозрачности заметно удобнее осуществлять контроль в стиле «разделяй и властвуй».

Стоит мне голосовать за такую Конституцию?

---

Вектор решения по изменению подходов к работе с персональными данными описан 4 года назад «Простой дешевый и удобный цифровой паспорт?», но полная модель в свете планов по созданию «цифрового профиля гражданина» требует заметно более глубокой проработки.

---

Сноска-скепсис про важность Конституции и ценность поправок к ней для обывателя

Как учили в школе– это основной закон. Вот, только, соответствует ли такое утверждение жизненному опыту?

• Сталинская конституция первого в мире государства рабочих и крестьян не спасла значительное количество рабочих, крестьян и интеллигентской прослойки от массовых депортаций и позорной охоты за «врагами народа», в числе которых оказались все главные охотники, кто не успел вовремя отправиться на тот свет– кроме Дзержинского и Менжинского. Все!!!
• Брежневская конституция не мешала безальтернативности ужасно демократических выборов и не спасла от психиатрической инквизиции несогласных с политическими реалиями «развитого социализма». Кто не хотел неприятностей в бытовой карьере, должен был чутко следить за политической конъюктурой и творчески относиться к необходимости стать пламенным борцом за дело единственно правильной партии, убежденно следовать ее политической линии и, если нужно, уверенно колебаться вместе с ней.
• Российская конституция, порожденная в эпоху взлета популярности демократических идей западного толка, подавленных при социализме, не помешала действенно мешать праву собираться и мирно митинговать против политики действующей власти, не защитила от обесценивания денег, от разграбления государственной собственности в период «приватизиции», от обесценивания всех обещаний государства.

Короче, жизнь наглядно показала иллюзорность красивых деклараций Конституции. Даже «боевые» законодательные нормы в жизненной практике становились игрушкой в руках бытовой конъюктуры– что уж говорить о Конституции?!

И в этой эффектной картине мира мне предлагают новую версию. Я не спец по конституциям и вообще не юрист. Среди рядовых граждан могу похвастать только несколькими высшими образованиями, что нонче не редкость– то бишь, просто не дурак. Что я вижу в новой версии, за что мне голосовать?

1. Ряд малозначительных по смыслу поправок социального характера, на которые делают ставку в рекламе, призывающей поддержать новую редакцию.
2. Откровенный реверанс действующему президенту, использовавшему максимально все возможные крючки действующей конституции, чтобы оставаться у власти. Теперь адресно именно ему все старые сроки «обнуляют». Ради этого вставляется витиевато закрученная лексическая конструкция, вместо которой проще было написать «кроме Путина».
3. Добавляется индульгенция бывшему президенту с оговорками на особо тяжкие преступления. Наверное, неплохо, чтобы президент не боялся уйти.
4. Довольно много поправок по организации работы высших органов власти. Казалось бы, это и есть самое существенное в новой редакции. Но зачем они нужны? Почему, чем чревато, что станет лучше от этого? С нами не обсуждают. Может, и правильно: что мы в этом понимаем– это нас не касается непосредственно. Тогда почему я должен решать этот вопрос?

Издевка «Обращайтесь в суд»

Это не про политику– это личный опыт: «компетентностный подход», говоря современным образовательным новоязом.

Советский человек хорошо знал, что правоохранительную систему надо старательно избегать. Долгие годы мне это удавалось. Лихие 90-е меня не зацепили, хотя беда ходила рядом в живых историях моих знакомых и близких. Оборотни в погонах и прочие прелести из бытовых историй подтверждались многочисленными кинобоевиками про крутых братков и про доблестный спецназ, про адвокатов и судей. Но меня это все миновало.

Опыт 1. Ракушечный.

Как человек любопытный, я даже обрадовался, когда еще в лужковские времена московская власть начала давить на наш двор своей войной с ракушками. Машину я к тому времени уже продал, а брать ли новую, еще не решил. Ракушка была абсолютно законно оформлена и никаких оснований ее у меня отнимать не было. Посмотреть живьем на работу суда было по приколу.

Я проигнорировал все предупреждения и получил официальное приглашение в суд с исковым заявлением. Оно изящно ссылалось на громкие постановления, выдергивая из них те формулировки, которые подтверждали право на силовое изъятие ракушек. Поскольку для меня это было «компетентностным обучением», я самостоятельно проштудировал эти постановления и выписал из них те пункты и формулировки, которые сторона московских властей обошла вниманием, хотя это были условия применения используемых ими формулировок. Условия, доказанные моими справками, не соответствовали условиям, а меры, предписанные постановлением до права применять силовой отбор, выполнены не были.

Тем не менее, все разумные люди понимают исход. Я и сам его понимал, но мне было любопытно посмотреть, как это происходит. Со всего двора в суд поиграла еще пара человек. Максимум, чего я добился,– мимолетную гримасу судьи, когда зачитывал цитаты из постановления, доказывающие мою правоту.

Это и был мой первый опыт. Он был приятно дополнен тем, что присужденную мне оплату пошлины в 100 рублей, как проигравшей стороне, мне так и не прислали.

Опыт 2. Мошеннический.

Я столкнулся с наглым мошенничеством на сравнительно небольшую сумму– годичный договор на медуслуги в размере 120 тыс.руб. Мне его впарили обманом вечером в праздничный день после хорошего обеда на бесплатном осмотре. Уже через день я от него отказался, но мошенники начали тянуть резину. Поскольку в нем был предусмотрен кредит, который они в первый же вечер слупили, я его закрыл своими средствами, чтобы не набегали сумасшедшие проценты (вернуть их в итоге не удалось). Подробности опускаю, ибо они для столь общего рассуждения не принципиальны.

Казалось, мимолетная глупость купирована. Но на службе мошенников по затяжке времени оказалась доблестная машина российского суда.

Я предполагал, что столь мелкая сумма не может стать поводом для неправосудных решений– у меня на руках совершенно очевидные документы: дешевле эту сумму вернуть, чем отстаивать. Причем, я нанял адвоката, который тоже меня уверял, что дело предельно прозрачное и очевидное.

Но я оказался неправ– суд проигнорировал все мои документы. А пока тянулось время с апелляцией, мошенники закрылись. Я остался с заключением судебных приставов, что взымать им с должника нечего. Собственно, под конец года мне и пришло окончательное слово наших доблестных правоохранителей– они официально беспомощно разводят руками, оставляя за мной право поскулить им еще разок с теми же документами.

Итог

• Суд с государством на экономические темы– дело практически бесперспективное. Это и так всем понятно.
• Суд с государством на политические темы– модная тема, трогать не буду. Мне, слава богу, с этим не пришлось лично сталкиваться.
• Остаются суды с физическими и юридическими лицами на большие и маленькие суммы.

Когда на кону большая сумма, не имея свободных рублей и правильных друзей иллюзий можно не питать. Но даже маленькая сумма не дает уверенности в правосудности– об этом говорит мой опыт.

Предвижу скепсис грамотных и опытных юристов, что «если б, да кабы». Заранее отправляю в игнор. Я с таким же успехом могу рассказать много лоховских историй про обращения к сисадминам при работе за компьютером. Благо, я сам сисадминил изрядно. Подозреваю, что многие умные юристы сами побывали в шкуре лохов за компьютерами. Разница в том, что издержки лоховства с компьютерами и с судами могут сильно отличаться. Ладно, когда издержки в небольших суммах– в судах на кону часто судьбы, а не деньги.

Мою ситуацию можно рассматривать как модельную: в очевидной документально подтвержденной ситуации налицо либо халатность, либо некомпетентность, либо сговор. Если при более четком оформлении процесса с моей стороны можно было бы получить более адекватное решение, значит судебная система никуда не годится. Значит, для правосудного решения в прозрачной мелкой бытовой ситуации недостаточно нескольких высших образований и простого здравого смысла. А как быть людям без высшего образования и не очень уравновешенным?

Как минимум, судья должен отвечать за свое решение, если оно оказалось неправосудным. Я понимаю, что могут быть ошибки. Но ошибки ошибкам рознь. Ошибка может быть в неочевидной ситуации и результатом некомпетентности. А может быть проявлением халатности или нечистоплотности. Ошибка судьи очень напоминает ошибки врача, по-моему. Если при обжаловании принято решение о неправильном решении, это должно быть поводом для оценки работы судей предыдущего уровня. Но тогда есть риск внутренних сговоров судей. У меня и так осталось ощущение, что суды по оспариванию стараются минимизировать масштаб отмены. Тупик.

Система, в которой для защиты правды нужно иметь юридическую квалификацию, зря тратит наши налоги, а модная фраза «обращайтесь в суд» является нахальной издевкой. Впрочем, часто она и произносится с такой интонацией.

МинЭк: «ЭЖ не гос/мун услуга»

Про статус госуслуги «Предоставление информации о текущей успеваемости учащегося, ведение электронного дневника и электронного журнала успеваемости».

Цепочка обращений с нежным футболом от МинЦифра через МинФин к МинЭк привела к очень обтекаемому ответу, в котором, однако, есть достаточно четкие формулировки. На иллюстрации я оставил только ключевые абзацы-фразы. Весь ответ размещен на сайте Лиги образования.

Фактически, в МинЭк подтвердили тезисы, которые я излагал еще в 2016 году. Единственно, стало яснее, что услуги делятся между органами власти и госучреждениями: 210-ФЗ относится к одним, а распоряжения Правительства к другим. Названия длинные и похожие– я тогда эти отличия не развел по разным нормам.

Итак, данная услуга относится не к полномочиям власти, а к школе как госучреждению. 210-ФЗ регулирует услуги органов власти. Значит, информационная система органа власти, обеспечивающая ведение ЭЖ/ЭД, не является государственной информационной системой и не может диктовать школе обязанность ее использования. Предлагать– пожалуйста, как возможная опция. Диктовать– нет. Причем, в ответе указано, что услуга оказывается «по запросам заявителей»! Нет запроса заявителей– нет оснований для осуществления государственной услуги.

Услуги, которые должны оказывать школы как госучреждения в электронном виде, упомянуты в Распоряжениях Правительства Российской Федерации от 17.12.2009 N 1993-р и от 25.04.2011 N 729-р «Перечень услуг, оказываемых государственными и муниципальными учреждениями...». Значит, сами школы решают, как их оказывать.

Скользкость ответа в том, что все услуги, которые должны оказываться в электронном виде, должны быть в реестрах, но данной услуги там нет, хотя и отмены старых распоряжений нет. Таким образом, ответ на мой прямой вопрос о статусе услуги деликатно обойден подробным разъяснением действующего законодательства.

Строго говоря, этого достаточно для вывода, что на законных основаниях нельзя заставить школы вести подобные системы против их желания. Однако мы все прекрасно знаем, что директор не пойдет против учредителя по такому поводу. Грустно, товарищи. Или господа. Кому как нравится, все равно грустно.

Экзамен для Бога, сбивающего людей

Обмен умностями привел к необходимости ответа на «проблему вагонетки» сформулированную Филиппой Фут в 1967 году и ставшую притчей во языцех современной нейроэтики.

Меня всегда бесила эта задача, но я никак не мог себя заставить осознать причину озлобления. Я чувствовал, что что-то в ней не так, но что? Прямой вопрос, адресованный лично мне, привел к сравнительно простому и очевидному ответу– задача изначально некорректна самой постановкой. Факт появления мгновенного ответа именно при личном неожиданном предъявлении только доказал его правильность, ибо ситуация вопроса, в моем понимании, абсолютно аналогична задаче.

Для наглядности моей логики предлагаю переиначить постановку проблемы: вы сидите рядом с водителем и глазеете по сторонам. Вдруг впереди неожиданная аварийная ситуация. Водитель предлагает вам поменяться местами, чтобы дальше с проблемой разбирались Вы. Что Вы скажете в ответ? А что подумаете? В чем отличие от исходной проблемы?

Логично ли заранее планировать аварийную ситуацию? Заранее логично планировать ее исключение. Чем лучше спланировал, тем менее вероятно, что она случится. Что подумают о проектировщике, который заранее заложил аварийность настолько, что может ее предугадать?

Тем не менее, непредвиденное возможно. Как мы реагируем в непредвиденной ситуации? На что обращаем внимание? Чем руководствуемся? Никто не знает. Мгновенная обработка ситуации и импульсный, ничем не предсказуемый ответ на нее. Ребенок или взрослый, мальчик или девочка, беременный или обожравшийся, хороший или плохой... Божий промысел. Пронесло или не пронесло. Бог спас или черт попутал. Каждый отвечает перед собой и Всевышним.

Я далек от религии, но модель высшей силы в этой ситуации наиболее адекватный вариант объяснения. Бог создал человека по своему образу и подобию. В каждом из нас есть Бог. Вот, он и решает подобные задачи. Наша задача– исключить, насколько возможно, их вероятность, но, когда и если она случается, ее решает наша высшая инстанция. Запроектировать ее нельзя. Она у каждого своя и познается только в подобных ситуациях. Один закрывает глаза, другой тупо давит на тормоз в полном параличе, третий спасает себя, четвертый гробит себя, пятый непонятным никому способом всех объезжает и помирает от инфаркта, шестой помирает от одного вида аварийной ситуации, седьмой нейтрализует ситуацию и радостно позирует всем каналам... Не прогнозируется это никем. Тем более, самими героями событий.

Бессмысленно проектировать высшую силу для автопилота. Самый адекватный ответ был у Мерседеса, кажется: «Для нас первичен приоритет нашего пассажира». И это правильно– им продавать нужно. Проблема морали не для робота. Для него законы робототехники имени Азимова и технические возможности носителя. В применении к автопилоту я вижу простые приоритеты так:

1. Сберечь пассажира внутри
2. Сберечь человека снаружи (количественно или по объему, без сложных моральных наворотов)
3. Максимально использовать эффект гашения энергии при выборе объекта для столкновения

Приоритеты должны быть именно простыми, чтобы люди, попавшие в ситуацию, могли, используя их, принимать свои решения.Например, спасая ребенка и/или беременную жену, отделиться от них, минимизируя себя как количество допустимого ущерба в логике автопилота.

При наличии широкого распространения автоматики и создании «умной дороги» такие задачи можно выносить на технического Бога– координирующую систему, обрабатывающую все поступающие от умных агентов данные. Имея картину всей ситуации, она может существенно снизить риск аварийных ситуаций и, при необходиомсти, принять на себя решение о реакции на нее всех участников. Для них это окажется то самое «Бог спас» или «черт попутал».

Сомнительные подрывы Острова 10-21

Сомнения по следам круглого стола на «Остров 10-21» по «подрывам в образовании».

Будучи ярым поборником открытых протоколов обмена данными между различными информационными системами, прежде всего в образовании, поймал себя на опасениях. Было неоднократно продекларировано мнение об открытом обмене данными об учебном процессе между университетами. Только Дмитрий Земцов высказал заботу о примате свободы человека перед возможностями цифрового Большого брата.

Открытость данных

О каких данных идет речь? Можно, увлекшись магией больших данных, машинного обучения, адаптивных программ, стремиться собрать всеобщий общак данных. Конечно, эти данные видятся апологетам больших данных употребленными исключительно на благо науки, университета, студентов. Позволю себе высказать осторожный скепсис и задать вопросы:

• Чьи данные об учебном процессе?
• Кто вправе принимать решение об их открытости?
• Все ли данные об учебном процессе должны регулироваться одинаково?
• Или разные данные могут/должны регулироваться разными юридическими и физическими лицами?
• Могу ли я как студент не хотеть открытой доступности данных о моих особенностях освоения программы в конкретном университете?
• Вправе ли университет без согласования со мной делиться данными обо мне?

Позволю себе высказать мнение, что открытыми могут и должны быть данные только о подтвержденной квалификации. Даже с этим тезисом не все согласны. Но я считаю, что квалификация– результат моего целенаправленного обращения за общественной оценкой в целях подтверждения моей компетентности в отношении требуемых в обществе компетенций. Раз так, положительный результат не может быть скрыт от общества и должен быть общедоступен на специальных сетевых ресурсах. Кроме компетенций, подпадающих под государственные секреты. В отношении чиновников и учителей такая открытость предусмотрена в законе. Полагаю, это должно быть регламентировано единообразно для всех.

Что касается текущего учебного процесса, данные о студенте, его успешности, предпочтениях и психо-волевых особенностях являются частными данными, доступными университету как подрядчику в рамках образовательных отношений. Только сам студент может принять решение о передаче их в некоторой части или полностью иным контрагентам. Для внешних отношений должно быть достаточно его профиля компетенций по итогам квалификаций. Различные рекомендательные сервисы должны быть добровольно применяемым инструментом, не допускающим распространения информации без ведома и желания студента.

Взаимозачеты

Очередной раз (и видимо еще не раз в дальнейшем) звучит вопрос о взаимозачете учебных курсов. Считаю это рудиментом сложившейся практики квалификации результатов курса там же, где курс осваивался. Убежден в правильности разрыва этой привычной связи.

Обучение и квалификация– принципиально разные процессы. В условиях сетевого режима обучения, когда нормой становится освоение разных компетенций разными способами и в разных источниках, квалификация должна быть отдельным независимым стандартизованным процессом. Неважно, где, когда и как я освоил компетенцию. Важно лишь мое подтверждение ее в независимом центре оценки с появлением положительного результата в моем сетевом профиле компетенций. Тогда проблема взаимозачета исчезает по факту иной процедуры.

Не словом, а делом

На фоне красивых заявлений Ольги Васильевой на старте ее пути как министра о борьбе с бюрократией и «о 3-х документах» (13.09.2016 в Чувашии), интересно выглядит нормативное письмо (docx) МОН Белоруссии от 27.12.2017 №164.

Оно об исчерпывающем перечне документов, с которыми должен работать учитель в нескольких базовых вариантах своего статуса:

• С одной стороны, перечень Васильевой компактнее.
• С другой стороны, в Беларуссии теперь это имеет нормативную силу и учитывает специфику несколько разных должностных статусов учителя.

Второй тезис безупречен и выглядит откровенным упреком российскому МОН после всей PR-мишуры обещаний. Зато первый в сочетании со вторым дает основания для моего занудства (вдруг бросятся вдогонку со стыда?):

1. Кому и зачем нужно поурочное планирование (ежедневное для воспитателя)?
2. Зачем регламентировать дневник?
3. Зачем личные карточки под барабаны «цифровой экономики» и под внедрение систем типа Контингент?

Про КТП

Есть учителя-аккуратисты, которые работают строго по заранее составленным планам. Но даже у них при работе на нескольких параллелях возникают сложности синхронизации. От формальных (работа в разные дни в разных параллелях, хотя в логике последовательности все соблюдается) до содержательных (разные классы по разному воспринимают). Но есть и менее педантичные учителя, которые с разными классами занимаются по разному, хотя проходят одну программу и на одном материале. Писать же для каждой параллели отдельный поурочный план– сомнительный вариант регламентации, если бороться с бюрократией.

За свои 25 лет в школе я 2-3 раза провел уроки строго по плану. Специально, из принципа. Это было на заре моей учительской деятельности и это были худшие уроки в моей жизни. Я при подготовке прорабатываю тему в целом, а двигаюсь по ней с каждым классом так, как более органично для учеников. Это позволяет лучше учесть интересы учеников. Причем, если один класс застревает на чем-то дольше другого, почти наверняка у другого класса возникают те же самые затыки, но их Жанна д'Арк или их Александр Матросов в тот момент витали по другим орбитам. Или подняли другие проблемы, которые, скорее всего, интересны другому классу тоже, но они иссякли на своих проблемах. Или я не слишком удачно смог отреагировать на одно– им не захотелось говорить о другом (или не успели).

В общем, поурочное планирование должно быть личным инструментом учителя, а не отчетным и регламентированным извне документом. Если его исключить из белорусского перечня документов, остается сопоставить календарно-тематическое планирование (в логике белорусов) и программу (в логике Васильевой). Боюсь, это не одно и то же.

Слово «программа» ближе к более фундаментальному документу с надежными ассоциациями к ФГОС, а календарно-тематическое планирование ближе к практическому плану реализации программы. И тут стоит углубиться: является ли программа продуктом работы учителя? Реализация– безусловно, его работа. А программа– труд методический. Не каждый учитель может и хочет писать программу. При этом КТП должно опираться в реализации на конкретную программу– иначе, что планировать содержательно?

Отсюда, я бы регламентировал для учителя обязательность КТП, в котором должна быть ссылка на программу. Адекватность программы может быть оценена либо завучем, либо предметным координатором в школе, либо иным уполномоченным лицом. Если же учитель обладает компетенциями и амбициями на создание своей авторской программы, это песня за скобками обязательного перечня документов учителя.

Про дневник

Даже в суперзарегламентированные советские годы приснопамятный (а нонче отмененный) приказ Минпрос от 1974 года №167 про школьную документацию не трогал школьный дневник. Он был за скобками всех регламентов и жил исключительно в логике своей формы. Это способ коммуникации школы, ученика и его родителей. В здравом уме и твердой памяти никому не должно прийти в голову браться за его регламентацию выше уровня школы. Белорусы явно погорячились. Не мудрено– все с ним так сроднились! Его и Васильева упомянула, но более осторожно («автоматически входит в электронный журнал»). Вероятно, на упоминании вся регламентация и закончится, если они совсем не сбрендили. Но я бы его и не упоминал.

Школа должна по закону информировать ученика и родителей об учебном процессе– пусть сами школы в согласии со своими родителями находят оптимальный способ коммуникации: от старого доброго бумажного дневника до супер модерновых цифровых коммуникаций.

Про личные карточки

Я понимаю, что эта сущность тоже в крови всех образованцев, но, выходя в процесс обновления нормативного поля, нельзя слепо двигаться по инерции. Во времена бурного обсуждения цифрового образования, во времена создания цифровой образовательной среды, в эпоху действия идиотского и весьма затратного закона о защите персональных данных стоит избегать регламентации рискованных традиций. Сегодня нужно вести дело к разделу учета между людьми и информационными системами. Коли мы хотим внедрять поголовные централизованные реестры учета учеников, родителей, учителей, нужно выносить этот учет из зоны ответственности (и, соответственно, отчетности) школы. Участвовать в выверке в процессе сопоставления данных автоматического учета и реальной жизни– да. Но сам учет– долой из школы! Иначе, зачем внедрять эти дорогостоящие и сложные информационные системы?

К чему это все написано?

Как всегда, в надежде на здравый смысл и более мудрый шаг нашего МОН, догоняющего белорусов.

Сборка #принестиЧебурашку

После внутрисетевого селектора 20.4.2016, посвященного 8-му разбору записей домашнего задания в централизованном электронном журнале Москвы, сеть взорвалась.

Оказывается, городской методический центр, пользуясь возможностью доступа ко всем данным журнала, начал делать тематические выборки по записям домашних заданий по слову «принести». Из этой выборки вызывали на публичный разбор по 6 директоров, в журнале которых встречались наиболее сомнительные, на их взгляд, записи.

Наиболее одиозной оказалась выволочка про Чебурашку. Она и переполнила чашу терпения: была вынесена на всеобщее обозрение в виде ернического ролика со вставками из мультфильмов.

Ролики опубликованы в Youtube, обсуждения шли в сети и даже выплеснулись в печатную прессу. Здесь выношу некоторые ссылки, к которым имел отношение, чтобы не потерялись:

• Ролики
  • исходный ролик
  • с добавлением про Гену (электрика и поиск друзей)
  • фрагмент селектора про криминал с «принести»
• Публикации
  • Статья в Новой Газете
  • Заметка в Edutainme
• Обсуждения на Facebook
  • пост Погодина со ссылкой на ролик
  • моя реакция на пост Погодина
  • моя реакция на текст в Edutainme
  • реакция Шперха на ролик про «принести»

PS. Говорят, диапазон поиска расширили: теперь слово «выучить» тоже под надзором.

Роботы без Азимова?

Завтра в Европарламенте обсуждают рекомендации по приданию роботам прав в логике юридических лиц. И хотя комментаторы пишут, что понятие «электронная личность» имеет такое же отношение к человеческой личности, как «юридическое лицо» к человеческому лицу, наши православные уже заволновались о перспективах уничтожения человечества. Рекомендации Европарламента прямо с первых строк мотивирующей части документа отталкиваются от наиболее известных художественных образов.

Страхи можно понять: о возможном вытеснении людей роботами звучит из уст не только футурологов, но и экономистов. Исторические экскурсы про луддитов в позапрошлом веке и про бухгалтеров в совсем недавнем прошлом успокаивают не всех. Перед образованием встают вопросы, чему учить, чтобы не попасть под сокращения из-за роботов в ближайшем будущем.

У нас есть аналогичная законотворческая инициатива Гришина, на которую я недавно отреагировал.

В том же ряду стоит рассматривать 23 принципа искусственного интеллекта (ИИ), которые подписали очень уважаемые в ИТ западные знаменитости. Они отличаются по жанру и по направленности (ИИ, а не роботы), но по сути это примерно одно и то же– регулирование сферы использования умных технологий. Я не отделяю ИИ от роботов, поскольку чистый ИИ– сущность условная: в той или иной форме он должен оказывать воздействие на нашу жизнь. В роботах это проявляется более явно. Но суть от этого принципиально не меняется.

Любители фантастики и все, кто связан с робототехникой, наверняка знают 3 закона робототехники из рассказа Азимова «Хоровод» (1942), исключающие агрессивность роботов:

• Первое: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
• Второе: робот должен повиноваться всем приказам, которые дает человек, если эти приказы не противоречат Первому Закону.
• И третье: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.

Позднее в романе «Роботы и Империя» (1986) интеллектуальные гоминоидные роботы выводят 0-й закон, вычислив который логическим путем, выходят из строя:

• 0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

На удивление, в предлагаемых нормах, с которыми удалось столкнуться, эти давно известные всем любителям научной фантастики законы никак не отражаются. Еще до принятия юридических норм первые практические реализации умных технологий направлены против человека: силовое подавление и лишение приватности. Неужели эти короткие формулировки законов оказались слишком наивны? Азимов из исторического далека ошибался или мы легкомыслены?

Мне эта тема показалась важной, в упомянутых текстах не все понравилось, поэтому захотелось отнестись, в надежде обратить внимание коллег и общества на эту тему, пока не поздно. Мне кажется, что в предложениях в логике понятийных сущностей типа юрлица или робота-агента не учтены важные системные упущения действующего законодательного принципа, унаследованного с доисторических времен: закон нацелен на поиск виноватых и их наказание. Закон должен быть нацелен на предотвращение, а не на месть.

Подписанные знаменитостями 23 принципа, изложенные в иной логике и акцентированные на ИИ, могли бы стать альтернативным направлением нормотворчества, но они показались мне, во-первых, слишком длинными, во-вторых, слишком умозрительными и поэтому нежизнеспособными. Подходы составителей к безопасности вызвали у меня смущение: я не понимаю ограничений на исследования, кроме страхов. Страхи не могут помочь в безопасности. Если миссия нашей цивилизации– создать новый разум, никакими формальными ограничениями этот процесс не остановить. Принципы типа хартии– это неплохо, если их немного. Безопасность я вижу не столько в хартии, сколько в жесткой нормативной регламентации на этапе реализации изделий. И пусть исследуют, что хотят. Генетические и бактериологические исследования более опасны, но их не могут контролировать.

С чем я полностью согласен, что исследования должны вестись открыто. Даже если будут выкладывать в доступ не все, обязательство заявить о своих работах и что-то публиковать обеспечит возможность мониторинга за теми, кто работает в сфере ИИ.

В качестве альтернативы, хочу предложить свои соображения о подходе к нормам будущего законодательства с учетом ИИ.

Управление рисками и жесткая регламентация

Поскольку силовые задачи человечеству нужны, в целях безопасности нужно, прежде всего, жестко разделить регламентацию силовых и гражданских изделий:

• Силовые установки должны иметь броскую недвусмысленную внешность, предупреждающую издалека о своем назначении. Силовые установки должны исключать возможность спутать их с естественными животными организмами, прежде всего, с человеком, и с типовыми для обыденной жизни гражданскими установками. Безопасность силовых установок должна обеспечиваться жесточайшей регламентацией. Например, запрет создания многофункциональных силовых установок– только узкоспециализированных. Это позволит алгоритмически ограничить сферу их использования. Формирование многофункцинальных групп из разных установок можно ограничить особыми условиями, прежде всего, под особым внешним контролем и при наличии «волшебной кнопки» самоликвидации.

• Гражданские установки должны жестко соблюдать законы Азимова. Нулевой закон Азимова, предполагающий приоритетность человечества над отдельным человеком, не может реализовываться гражданскими установками– функция силовой защиты людей друг от друга должна быть возложена исключительно на силовые установки. В безопасности гражданских установок люди должны быть абсолютно уверены, как и в надежности распознавания вида установки: силовая или гражданская.

Упомянутые 23 принципа ИИ при соблюдении законов Азимова гражданскими установками основную массу пользователей волновать не должны. Подразумеваемые в них риски могут проявиться только в силовых и экспериментальных установках.

Я вижу 3 уровня решения задач безопасности в соответствии с уровнями рисков:

• механические риски
• риски операционной системы (ОС)
• риски логических выводов ИИ

Все конкретные риски должны быть классифицированы и документально отражены, в том числе, в виде внешней маркировки. Чтобы законы исполнялись,

• механическая установка должна быть описана разработчиком с точностью до конкретных рисков, чтобы разработчик операционной системы целенаправленно строил программную реализацию, обеспечивающую их контроль.

• Кроме контроля за механическими рисками, ОС должна иметь систему блокировок на случай программных сбоев и коммуникационных задержек.

  Тестирование установки должно заключаться в проверке всех описанных ситуаций. Если несчастный случай произойдет по причине, отсутствующей в описании рисков, за нее должен нести ответственность разработчик.

• Системы ИИ не должны иметь возможности причинить вред человеку. Полагаю, они должны иметь два уровня:

  • защищенный приоритетный уровень безопасности (законы Азимова),
  • функциональный уровень, ответственный за целевые гражданские задачи.

  Возможно, слой безопасности логичнее реализовывать как часть операционной системы, потому что безопасность конкретной установки зависит от ее механических возможностей. У Азимова соблюдение законов предполагалось даже на аппаратном уровне– именно поэтому модуль управления роботов сгорал раньше, чем он мог законы нарушить.

Альтернатива может быть в том, чтобы слой «защитника» был самоценным для любых систем, потому что защита нужна не только механическим установкам. Мы все чаще и все плотнее работаем с системами ИИ, полагаясь на свой здравый смысл, не имея полного представления о работе ИИ. Есть смысл логику документирования рисков и формирования защитной прослойки с ИИ на основе конкретных рисков использовать не только в роботизированных системах.

Мы знаем, что обходят сегодня практически все, но сложность такого обхода должна быть существенно выше ценности такого пути.

Гражданские отношения

Кроме технологических мер, есть и гражданская ответственность разработчика, изготовителя, продавца, владельца, сервисной службы и хакера, взламывающего штатный режим изделия, обходя технологические барьеры. Если удастся сделать хороший защитный слой на базе ИИ, можно все эти сложные комбинации ответственности свести к отношениям вокруг него. А условием внешней ответственности для потребителя должен быть жесткий регламент запуска системы под защитным слоем.

Реализация законов Азимова неизбежно приведет к изменению законодательных принципов в обществе, потому что простая формулировка «причинить вред человеку» требует формализации, а это, по сути, вся нормативная база, построенная сегодня в логике наказания. А наказание бессмысленно в отношении робота. Наказание в отношении человека тоже бессмысленно, но мы уже так привыкли. Будучи переформулированными для робота, варианты причинения вреда человеку начнут пересматриваться в отношении людей, ибо это более разумно и эффективно.

На месте великих подписантов 23 принципов ИИ, я бы призвал к пересмотру принципов построения законов, унаследованных человечеством со времен рабовладельчества, а не к ограничению исследований ИИ на базе собственных страхов.

PS. 16 февраля Европаламент принял текст.

Закон, культура, воспитание

Закон не нужен вообще, если люди могут договориться. Он нужен только там и тогда, когда ситуация не может разрешиться здравым смыслом и неоднократно повторяется (в развитие короткого поста на ФБ).

Если рассматривать культуру как соотношение общественных законов (писаных или жестко сформулированных правил) и морали (неписаных правил или, точнее, подходов к решению), то при сопоставимой сложности отношений, на мой взгляд, чем выше уровень культуры, тем более значима доля неписаных правил. Если представить себе культуру роботов, то у них логично ожидать отсутствие неписаных правил– все формализованы. Тогда:

• Закон должен быть только там, где недостаточно здорового чувства меры на основе культуры.
• Чем меньше культуры, тем больше законов.
• Чем больше законов, тем меньше значение культуры.
• Чем меньше законов, тем они сильнее.
• Законы должны облегчать жизнь, а не усложнять ее.

Ограничения в сообществе неизбежны, ибо у каждого есть свои интересы, планы, проблемы. Вопрос в способе согласования. При высоком уровне культуры в обществе можно обходиться здравым смыслом и взаимоуважением. Здравый смысл– это не только и не столько индивидуальный ум, сколько умение минимизировать опасные и конфликтные ситуации. Этот навык опирается на культуру: как личную, так и общественную. Общественная культура– это общепринятые способы взаимодействия, в том числе избегания конфликтов. На основе общественной культуры формируется личная культура: личный опыт, личная харизма, личные особенности, включая личную соображалку.

Здравого смысла не всегда хватает. Если некая ситуация регулярно приводит к конфликтам и не находит культурного разрешения, группа авторитетных и неглупых создает общее правило– закон. Чем менее культурно общество, тем больше требуется таких законов. И чем больше наваяют таких законов, тем меньше обществу нужна культура, ибо функция регулирования переходит все в большей степени на формальные правила.

На ФБ в ответ появился жесткий контртезис:

В отсутствии Закона все моментально становятся либо некультурными, либо мёртвыми. Закон выступает арбитром, у него функция дяди с палкой, который бьёт по голове, независимо от культуры, справедливости, здравого смысла и пр., а только по тому как записано.

Какие развилки меня волнуют:

• закон и справедливость
• закон и месть
• личное и общественное
• закон и культура
• культура и воспитание

Рассмотрю подробнее:

• Самая избитая и бесконечная тема– закон и справедливость.

  Люди стремятся к справедливости, но разные люди ее понимают по разному, поэтому закон как форма общественного договора сменил суд, опирающийся на усмотрение уважаемых людей, по их представлению о справедливости. И именно суд на основе закона как свода правил можно рассматривать как «дядю с палкой, который бьёт по голове, независимо от культуры, справедливости, здравого смысла и пр., а только по тому как записано».

  Суд на основании закона удовлетворения не принес. Это проявилось в многочисленных художественных произведениях, где герой, которому симпатизирует читатель/зритель, нарушает закон ради справедливости. Естественно, в представлении героя (автора?). Тем не менее, логика закона как формального правила не обсуждается. Общественное мнение озабочено в гораздо большей степени обеспечением декларируемой независимости суда и строгого соответствия его деятельности закону. Раз даже набор формальных правил не удается в полной мере реализовать, то что говорить о справедливости, которая не формализуема?

  Побочным эффектом такого формального подхода является обсуждение ситуаций, которые выпадают из типовых условий закона. И тогда наиболее странно звучат доводы по подгонке нестандартной ситуации под ту или иную стандартную ситуацию закона вместо осознания ее нестандартности. Люди не удерживают логики появления закона как правила на основе общественного согласия и провозглашают первичность формальных правил. Спор идет в логике схоластических дискуссий: какой из неподходящих тезисов закона более подходит в данной ситуации?

• Глубинная проблема закона, которая не обсуждается и считается незыблемой– поиск виновных и их наказание.

  Казалось бы, зачем в 21 веке на фоне споров о демократии, о правах человека, о либерализме действовать в логике мстительно-устрашающей архаики? Почему не рассуждать в логике предотвращения нарушений вместо попытки наказаний? Не все ли равно, кто виноват? Важно, как предотвратить повторение. Кому интересно, старые наивные рассуждения подробнее.

• Серьезным культурным водоразделом, в частности, между Россией и США является приоритетность личного и общественного.

  Мы очень похожи во многом, но, судя по различным художественным фильмам, в ряде узловых событий, где проявляется эта приоритетность, явно видны разные подходы. Те же санкции, которые для западной культуры воспринимаются абсолютно естественно как наказание, для нас воспринимаются с недоумением. В России, несмотря на все дискуссии о либерализме, общественное несопоставимо важнее личного. На западе значимость личного заметно выше. Я не даю оценок «хорошо/плохо»– это каждый решает сам. Я констатирую очевидное для себя наблюдение. Поэтому именно в России подход предотвращения неприятностей вместо наказания, на мой взгляд, более реалистичен, чем для запада.

• Свое отношение к соотношению закона и культуры я уже определил в начале.

  Именно поэтому меня крайне беспокоит «бешеный принтер». Наметившийся крен в пользу формальных правил даже в тех аспектах, которые всегда регулировались общественными представлениями, беспокоит больше всего. Либо это глупый законодательный раж, который можно успокоить властными рычагами на основе здравого смысла. Либо это признак размывания навыка культурного регулирования. И тогда это тревожный сигнал и власти, и обществу. В совокупности с призывами о воспитании, есть подозрение, что второе более вероятно.

• Самый скользкий в этом обсуждении аспект о соотношении воспитания и культуры.

  Сегодня общепризнанным рассуждением является призыв к школе заниматься не только обучением, но и воспитанием. Об этом и министр регулярно говорит, и народный фронт конференции проводит, и на каждом образовательном мероприятии кто-то обязательно об этом скажет, причем в пафосном залоге. В учебные курсы школы сначала вставили отдельным часом изучение религии (с одним из обоснований как воспитание), сейчас призывают не религии вообще, а именно православие как наиболее массовую в России. Отдельная новая инициатива верховного муфтия об уроках нравственности. Да еще и ответственность ввести за духовно-нравственное воспитание!

  Меня такое представление о воспитании вгоняет в тоску. Как представлю себе эти уроки нравственности на фоне полицейских мероприятий по контролю за сливами информации на ОГЭ/ЕГЭ/олимпиадах, так тошно становится. Не воспитывается человек причитаниями! Будь то в школе, на публичных мероприятиях или дома. Человек воспитывается только действиями. Причем не всеми, а которые он сам счел достойными подражания! Давно известная истина для родителей: можете ребенку говорить, что угодно,– он будет вести себя так, как вы сами себя ведете. Потому что родители– самые значимые люди для любого человека. Их пример– его самый частый выбор. Любые другие люди могут повлиять на этот выбор только в том случае, если они окажутся значимыми для ребенка и если пример их поведения покажется ему достойным подражания.

  Да, поведение героев воспитывает, потому что отношение многих людей к их поступкам демонстрирует значимость их для многих– повод задуматься и взять себе за образец. Но если про этот поступок только говорят пафосно на мероприятии, а герой в остальное время едва сводит концы с концами, позабыт-позаброшен всеми до следующего публичного мероприятия, вряд ли вменяемый человек поверит в значимость. Это будет зависеть от его модели успешности в жизни. А сейчас старательно выстраивается представление об успешности по принципу финансовых доходов. И что умники воспитания противопоставят в своих пафосных речах этой общественной максиме?

  Все, кто реально думает о воспитании, об общественных ценностях, должны четко понимать, что воспитание– это слепок культуры. Какова бытовая культура вокруг человека– таково и воспитание. С небольшими семейными вариациями, ибо роль родителя никто не заместит. Хотите повысить уровень воспитания– обеспечьте соответствующий уровень культуры вокруг человека. Единственное, что может школа сделать в вопросах воспитания– обеспечить высокий культурный фон своим ученикам. Но он зависит от культуры учителей школы.

  Если мы недовольны уровнем воспитания молодежи, нужно не законы новые лепить, не уроки новые вставлять, а заняться собой– бытовой культурой, в которой молодежь живет и развивается. Чтобы небезразличие в уличных конфликтах не ставило борца за правое дело в неловкую ситуацию. Чтобы некультурные формы поведения пресекались. Чтобы были рабочие и аккуратные сортиры, чистые мусорки, уважительные работники сервиса и, тем более, органов полиции...

  Если говорим о патриотизме, то он должен проявляется в жизни, а не на словах, в том числе в пропаганде. Сколько лет мы будем обеспечивать остатки фронтовиков квартирами и гарантировать им достойную медицину или просто бытовой уход? Тот же «Бессмерный полк», где он проводился от души, а не для отчетности, оказал заметно большее влияние, чем пафосные школьные мероприятия по спущенному сверху графику.

  О каком патриотизме можно серьезно говорить, если в дискуссиях с собственными согражданами критиков поддерживаемой властью позиции относят чуть ли не к врагам? Давайте без меры в СМИ обзывать друг друга «либерастами», «коммуняками», «фашистами», «ватниками», «колорадами», «сепарами», «укропами»...– и вырастим неспособных видеть иное мнение, способных видеть в носителе иного мнения врага. Мы сейчас, может, и не перейдем границы взаимных оскорблений. А они смогут? Без той культурной опоры, которую заложили в нас,– способности уважать иное мнение?

  Мы прошли непростые времена, когда все обвалилось, но забыли, что в этом обвале жили и росли дети. Именно ту культуру они восприняли и сейчас воспроизводят. И их уже не исправить. Современные дети живут и растут сейчас. Все, что происходит в культуре сейчас, мы получим чуть погодя в исполнении детей, которые сейчас незаметны. И преломиться это может самым неожиданным образом. Если мы их осчастливим «воспитанием» в стиле советской школы, то испортим формализмом, получим «совок». Причем в гораздо худшем виде, потому что идеология в советской школе еще была, хотя и плыла изрядно. Сейчас у нас идеология «красивой жизни» с попыткой наложить религиозные ценности. Формализм на этом фоне может привести к жесточайшему цинизму, на фоне которого «совок» покажется шедевром воспитания.

  Можно и нужно говорить о воспитании, но в логике страны, а не школы. Не может школа перевоспитать всю страну. В школе можно обсуждать организацию мероприятий, проведение которых способствует переживанию и рефлексии каких-то событий, действий. Но это вполне реализуемо и в рамках учебной деятельности. Без специальных мероприятий, за которые потом еще неделями отчеты писать. Гораздо эффективнее проводить важные для культуры мероприятия по стране, а не по школам.

Отношение к закону– важный аспект воспитания.

Отношение к закону, к суду, к правоохранительной системе транслируется из поколения в поколение. Можно сколько угодно причитать о том, что хорошо и как правильно, но это никак не сказывается на реальном отношении, пока не возникнет устойчивого впечатления об изменениях.

• В России не верят закону, старательно избегают общения с ним до последнего. Одни пословицы чего стоят. Стойкое мнение, что нет ни одного закона, который можно было бы реально выполнить. И смысл такой Фемиды народ видит в необходимости иметь возможность любого привлечь к суду, когда и если власти это потребуется. Народ же в культуре бытового общения больше настроен на поиски справедливости. Каждый, как может. К преступникам в народе отношение негативное. Судимость остается клеймом на всю жизнь.

• На западе, несмотря на различные фильмы, отношение к закону уважительное. Возможно, сказалось бурное прошлое с судами Линча, или это свойство протестантизма, распространенного на западе. Важен факт. Допустимо позитивное отношение к преступникам: факт совершения преступления не исключает признания личных достоинств. Преступил– поймали– наказали– освободился– забыли.

Наблюдение за процессами в России пока доказывает правильность исторически сложившегося отношения. Поэтому и жесткая народная реакция на активизацию законотворчества в виде уничижительного слогана про «бешеный принтер». Таким образом, если законотворчеством хотели улучшить ситуацию, то получилось «как всегда».

Принцип снижения нормативной нагрузки, предложенный Трампом, я считаю великой идеей, которую нужно импортозаместить в России. Чем больше мы будем переносить на уровень культуры, тем сильнее и адекватнее будут законы. А мы терпимее и мудрее.

Робот, ты не прав!

Гришин бросает Азимову и всему миру вызов на ниве законодательства в отношении роботов. Законы о роботах обычно связывались в голове с рассказом Азимова «Хоровод». Я даже на основе этого рассказа проводил уроки информатики– получалось неплохо. Но сейчас о них вспоминать становится даже неловко, ибо первые роботы нашли применение в полной противоположности законам робототехники Азимова: для уничтожения человека. К сожалению, это обычно для человечества.

По взрывному росту популяции роботов вокруг нас можно уверенно констатировать начало эры Азимова, о которой он размышлял в середине прошлого века, прорабатывая в своих произведениях отношения человека и роботов. Его книги о роботах– сокровищница современных робототехников, хотя все может пойти по другому, чем ему виделось в этике и эстетике своего времени.

Однако, несмотря на рост достижений в области искусственного интеллекта вплоть до побед его над человеком в ряде традиционно человеческих интеллектуальных задач, вопрос законодательной проработки участия роботов в нашей жизни пока никто не ставил. До Гришина Дмитрия Сергеевича. Он опубликовал для обсуждения свой проект. При рассмотрении нормативных задач предполагается выделить несколько подходов правового регулирования:

• приравнять роботов к животным (применить те же принципы и подходы, например, в случае ответственности владельца источника повышенной опасности);
• использовать концепцию, близкую к юридическим лицам;
• решить вопрос по аналогии с физическими лицами.

Меня радует сам факт такой постановки задачи, потому что нашествие роботов уже стало реальностью– значит, пора заняться регулированием их использования и участия в жизни. Заодно могут быть заполнены лакуны использования программного обеспечения, которое не менее действенно в современной сетевой жизни, чем механические последствия физически осязаемых роботов.

Если же обсуждать изложенные подходы, мне они не кажутся исчерпывающими. В роботе я вижу много слоев отношений, каждый из которых требует адекватного отражения:

• искусственный интеллект, который может быть реализован как локально, так и в сети
• программное обеспечение без особых интеллектуальных функций, которым робот управляется
• механические конструкции, которые могут нанести физический ущерб

Особо стоит выделить вполне ожидаемую ситуацию с нежелательным вмешательством в работу робота на любом уровне его системы. Кто и за что должен отвечать в случае нежелательных действий робота в ситуации намеренного вмешательства внешних сил?

С точки зрения ответственности, механические конструкции могут быть многоуровневыми: базовый конструктив с загружаемой логикой и широкий спектр сторонних дополнительных аксессуаров, которые могут поставляться различными сторонними разработчиками. В случае нежелательных механических повреждений, кто должен отвечать: разработчик базовой конструкции или внешнего аксессуара?

Упомяну без раскрытия очевидный аспект баланса ответственности изготовителя, владельца и пользователя робота. Там тоже масса нюансов, которые упомянутыми 3-мя подходами не покрываются.

Но самый главный риск я вижу в наказательной концепции законодательства: не предотвратить нежелательное, а наказать виновного, дабы другим неповадно было. Причем, на западе наказательная модальность даже сильнее вызвана, что проявляется на политическом уровне в виде санкций: стремление подавить нежелательное поведение страхом наказания.

В этом контексте очень показательно уточнение Якова Кедми, развенчавшего длительно насаждаемый миф советских СМИ о мстительности израильской разведки. Нам неоднократно рассказывали про уничтожение всех участников группы захвата израильских спортсменов на Олимпиаде и террористов по другим эпизодам. Кедми совершенно иначе повернул вектор активности спецслужб Израиля: не отомстить за содеянное, а предотвратить новые негативные события. Их уничтожили не потому, что они что-то уже сделали плохое, а потому, что они готовили новые теракты. Если бы затихли, на них бы время и силы не тратили.

И тут мы попадаем в катастрофическую цивилизационную дыру правовой системы, доставшейся нам в наследство. Меня подняли на смех после заметки о римском праве как основе системы, построенной на поиске виновных и их наказании. Никто не готов кардинально пересматривать эту систему– слишком много рисков и трудозатрат. Однако именно роботы могут стать тем стимулом, который заставит изменить подходы. Возьмем за пример жуткие теракты, которые были совершены с помощью мирных аппаратов: самолетов и грузовых машин. Только представьте, что там бы не было водителей, а они бы были на автопилоте?

Если пересмотреть законы в русле предотвращения нежелательных событий, законодательство о роботах может быть вполне органично и не слишком проблемно. Если же законы остаются в логике мести за нарушения, что более вероятно, по крайней мере пока, это может существенно ограничить применимость роботизированных систем рисками последствий за непредсказуемые события. Можно, конечно, надеяться на статистику, но скорость изменений в науке и в обществе делает статистические циклы короче. Посмотрим.

PS. Оказалось, что нормативных инициатив уже несколько