14 апр. 2017 г.

Нужен новый Контингент

Оптимистичное предложение на фоне пессимистичного обсуждения в Общественной палате.

Главный конфликт обсуждаемой системы проходит между

  • важным смыслом системы как центральной во всей совокупности информационных систем в сфере образования
  • и страхами последствий ее реализации.

Главный страх опирается на богатый опыт: нет в государственной машине ни одной информационной системы, которая бы была сделана аккуратно и удобно. Все изначально неуклюжи, да и потом они не столько становятся заметно лучше, сколько к их неуклюжести люди начинают привыкать, не имея альтернативы.

В обсуждаемую систему Контингент правительственным положением внесли почти всю информационную структуру всего образования. Если грохнется, то сразу все. А оно точно грохнется– в этом ни малейших сомнений нет. История создания текущей версии системы, ручейками слухов просачивающаяся из-за кулис, только подтверждает худшие опасения. Есть циничное предположение, что такой огромный кусок бюджетного пирога ни одному игроку не позволят конкуренты. Сам факт предусмотренных в системе функций неподъемен и неприличен для устоявшейся на рынке ситуации. Но аргументы должны исходить из добропорядочных аргументов, даже если эта гипотеза верна:

  • Самый главный упрек обсуждаемой системе– слишком обширна.

    Даже упоминание возможности ее модульного построения не исключает итоговой монстрообразности результата: главный подрядчик в данных требованиях все подомнет под себя. Мое твердое убеждение– нужно много РАЗНЫХ самодостаточных информационных систем, решающих узкоспециальные задачи в разных сферах образования.

  • Второй упрек– обтекаемые требования.

    Должны быть жесткие требования, исключающие избыточность для конкретных задач конкретной информационной системы. Для этого нужно очень жестко поработать с каждой системой, чтобы привычные для бумажного документооборота приемы работы были критически проанализированы заказчиками из системы образования под придирчивым контролем ИТшников.

  • Третье– необходимы требования по обмену данными.

    Помимо упрека президента по непроработанности обработки персональных данных, сегодня все информационные системы должны уметь взаимодействовать с разными внешними системами в тех формах и масштабах, которые необходимы для решения задач.

Мое предложение

  1. Забыть о существующей системе и начать проектирование снова с учетом накопленных шишек и приобретенного понимания. Потраченные средства считать оплатой здравого смысла, неучтенного на предыдущем этапе. Если бы учли, дешевле бы обошлось бюджету. Зато исполнители не в обиде.

  2. Жестко ограничить новые требования к системе Контингент исключительно учетом факта образовательных отношений:

    • кого учат (и где),
    • кого не учат.

    Причем, задачу учета всех персональных данных на нее не возлагать– эти данные уже существуют в других государственных системах. В ней должны сводиться ссылки и связки в логике образовательных отношений: стороны отношений и необходимые для обмена информацией данные.

  3. Специфические задачи учета собственно образовательных отношений должны вестись в других специализированных системах в логике этих отношений:

    • Есть журналы учета успеваемости– это откровенно школьные системы.
    • Есть системы записи в организации дополнительного образования.
    • Есть (или должны быть) системы проведения образовательных мероприятий (олимпиады, конкурсы, соревнования...).
    • Есть системы подтверждения документов об образовании.
    • Есть системы дистанционного обучения.
    • Есть системы учета и повышения квалификации педагогических кадров.

    Цифровая образовательная среда может включать много самых разных информационных систем. Они должны быть информационно совместимы благодаря единому идентификатору обучающегося из системы Контингент и другим унифицированным идентификаторам. Этого достаточно для синхронизации информации между разными системами и для формирования агрегированных (статистических) данных в целях анализа.

  4. Должны быть разработаны и в дальнейшем поддерживаться в актуальном состоянии стандарты (протоколы) обмена данными между этими разными системами. И должны быть в доступе тестовые системы отладки обмена данными, чтобы множество конкурирующих разработчиков могли эффективно предлагать альтернативные способы работы без ущерба для всей совокупности систем. Отдельная независимая аналитическая система может строиться на единой логике сбора статистических данных из всей совокупности систем без ущерба для их работы и рисков для персональных данных.

  5. Персональная информация должна быть доступна только непосредственным участникам образовательных отношений, причем только в том объеме, который необходим. Например, школе не нужны для обучения персональные данные ученика и его родителей в полном объеме– достаточно удобного для общения имени и контактных данных для информирования. Органам управления достаточно статистики успешности образовательного процесса. Это существенно снижает требования по защищенности школьных информационных систем и по мерам обеспечения школой функций оператора персональных данных.

  6. Доступ к приватным персональным данным при описанном выше подходе может быть нужен только для нестандартных ситуаций, в которых может быть задействован узкий круг ответственных лиц. Например, для контроля за детьми, не посещающими школу. Редкие конфликтные ситуации в школах нужно придирчиво проанализировать и подготовить сценарии их разрешения с минимальным обращением к частным данным.

  7. Должны подвергнуться тщательному анализу все ситуации образовательного процесса, в которых школе могут потребоваться частные персональные данные, и постараться исключить их. Например, документы об образовании давно пора сделать цифровыми– это существенно облегчает многие процессы, включая поступление в вуз. Одновременно исключается необходимость доступа школы к частным персональным данным для подготовки устаревшего бумажного документа. Аналогично справка об обучении тоже может быть цифровой с электронной подписью портала госуслуг. Аналогично необходимо проанализировать все подобные ситуации и найти новое современное решение, освобождающее школу от необходимости доступа к персональным данным.

Совокупность узкоспециализированных систем делает задачу дробной, гибкой, конкурентной, безопасной и дешевой. Издержки у такого решения– сложности согласования и сопряжения. У нас не любят и не умеют договариваться и согласовывать. Но только такой подход позволяет сделать решение красивым и легко развиваемым в перспективе.

10 апр. 2017 г.

7 ключевых соображений по системе Контингент

  1. При грамотной архитектуре системы Контингент она может стать полезным стержнем всех образовательных систем, облегчающей работу и школ, и всех смежных информационных систем. При неудачной архитектуре она усложнит работу и людей, и смежных систем, создаст риски утечки данных.

  2. Чтобы построить грамотную архитектуру системы Контингент, нужно всем чиновникам, ответственным за техническое задание, очень критично оценить требования к системе. Простое транслирование хотелок в традиционной логике без жесткого критического отсечения избыточных требований породит неуклюжего монстра. Критический подход необходим вплоть до нестандартных, нетрадиционных подходов, поскольку традиционные подходы строились в бумажном делопроизводстве с неизбежностью движения документов снизу вверх. При наличии централизованных цифровых данных эта логика становится не только избыточной, но и опасной с позиции защиты данных.

  3. Грамотная архитектура системы– это множество узкоспециализированных систем, объединенных общей логикой единых идентификаторов с обезличенной моделью обмена данными.

  4. Любая внедряемая информационная система ДОЛЖНА приносить облегчение в работе. Важнейшей задачей системы Контингент по облегчению должно стать декларированное в законе снятие со школы и с органов местного самоуправления функции учета детей, подлежащих обучению, раз эта задача автоматизируется в системе из источников первичных данных. Вместо учета, органы местного самоуправления должны их мониторить и информировать операторов системы о необходимости коррективов.

  5. Учет успеваемости и всех иных образовательных характеристик в школе должен вестись по произвольным и удобным для детей домашним именам– это позволит школьные системы считать обезличенными и не накладывать на них сложных и дорогостоящих ограничений, необходимых для соблюдения мер защиты данных. На уровне системы Контингент не нужны данные о текущем учете– для принятия управленческих решений достаточно агрегированных (статистических) данных.

  6. Системы учета персональных данных и учета промежуточной аттестации (за год или лучше по итогам завершения учебного курса) нужно вести раздельно– это совершенно разные системы. Отделение учета персональных данных от всех, кроме тех, кому они нужны, с увязкой смежных информационных систем на основании уникального идентификатора, позволяет не только разрешить опасения об их возможной утечке, но и освободить всех от львиной доли непрофильных и сложных для исполнения функций оператора персональных данных. В условиях создания единой на всю страну системы учета налогоплательщиков (там предусмотрены все граждане) сами персональные данные в систему Контингент можно и вовсе оттуда не копировать, а только иметь связь с ними через СМЭВ.

  7. Анализ списка допускаемых к персональным данным требует внимательного подхода. Я предполагаю, что он может быть ограничен службой опеки и попечительства в отношении тех детей, которые не посещают образовательные организации. Но все еще существует ряд событий, для которых школе все еще нужны персональные данные. Чтобы их исключить, требуются некоторые изменения в традиционных бумажных практиках. Например, давно возможен отказ от бумажных дипломов/аттестатов в пользу цифровых. Это не только снимет издержки на печать дорогих бланков на Госзнаке и ежегодную страду по распечатке на них итогов, которые потом всю жизнь валяются в дальнем углу письменого стола, но и позволит сделать поступление в вузы в одну волну. Зачем сегодня ходить с бумажными документами, если их можно передать в цифровом виде с электронной подписью портала госуслуг? Кому потребуется бумажный, можно распечатать у нотариуса. Госуслуга подтверждения документов об образовании доступна с 2012 года. Сделать ее удобной для более широкого круга задач– долг здравомыслящих чиновников или депутатов. Есть еще несколько ситуаций, столь же несложная автоматизация которых через госуслуги позволит полностью снять зависимость школ от персональных данных учеников.

Система Контингент узловая для образования, поэтому более детальных соображений может быть много. Здесь указаны ключевые, на мой взгляд.

30 мар. 2017 г.

Модель мегакомпетенций ISPEC

Популярный подход к обучению через формирование компетенций облегчает переход от традиционных монолитных курсов, настроенных на заучивание «академических основ», к более компактным адаптивным и адресным курсам, направленным на конкретные компетенции ученика на выходе. Критика компетентностного подхода связана с его неполнотой и фрагментарностью: никто не уверен, что список компетенций исчерпан и что он гарантирует их совокупную целостность. Академические курсы считаются целостными, хотя это, строго говоря, тоже неочевидно: большой и громоздкий курс не становится целостным только потому, что через него прошло много поколений и что его было трудно запомнить.

Если предложить такой набор компетенций, который полностью покроет пространство развития ученика, то это может снять проблему фрагментарности, что позволит более гибко строить серии небольших курсов вместо монолитных и традиционных «академических». В рамках проекта Института Практической Психологии НИУ ВШЭ по развитию отношений между школой и родителями под руководством Гули Базаровой летом 2015 года нами был сформулирован набор мегакомпетенций, которые можно считать базисом пространства личностного развития. Они сформулированы в стиле уже привычных IQ, EQ с попыткой избежать повторения букв.

Модель мегакомпетенций «ISPEC»:

  • IQ: интеллектуальная/когнитивная (владение объективными закономерностями мира)
  • SQ: социальная (владение социальными моделями отношений)
  • PQ: персональная/личностная (владение целями и волевым поведением)
  • EQ: эмоциональная (чувственное восприятие, понимание и проявление эмоций применительно к ситуации)
  • CQ: коммуникативная (владение средствами и процедурами коммуникации)

Картирование компетенций по такому базису позволяет сравнительно легко создавать личностные и профессиональные профили, программы личностного и профессионального развития. Надежда на целостность такого описания пространства личностного развития опирается на то, что нам не удалось пока выявить компетенций, которые бы не могли быть разложены по указанным. Если использовать данную модель для картирования учеников и заданий, можно надежнее прогнозировать успехи и подбирать индивидуальные задачи на проверку и на развитие. Применение машинного обучения может повысить точность картирования как учеников, так и задач.

Мне показалось любопытным проградуировать мегакомпетенции более детально. Самопроизвольно, навскидку, описания каждой из компетенций легли на 5 линейных описателей, которые оказались при чуть более пристальном взгляде более сложно структурированными. Обобщенно каждая из компетенций разложилась так:

  • Исполнитель
    • Халявщик
    • Здоровый пофигист
    • Надежный исполнитель
  • Разработчик
  • Открыватель

Идея доработать классификацию так, чтобы у всех 3-х ролевых позиций появилась детализация, не прижилась. Сначала стало очевидным, что роль открывателя довольно вырождена и редка, чтобы ее детализировать. Потом та же логика победила в отношении разработчика, хотя эта роль заметно более распространена, чем открыватель. Тем не менее, показалось нецелесообразным углубляться и усиленно придумывать то, что не кажется очевидным и необходимым. Сам факт роли достаточно важен.

Для измерительного подхода к мегакомпетенциям в отношении конкретных задач или тестов должна быть предметная градуировка, которая будет выводить на ту или иную ролевую категорию. Основным вопросом остается, насколько оправдан в отношении модели ISPEC измерительный подход? Не окажется ли слишком трудоемко разложение конкретной задачи по такому обобщенному базису? Насколько такое разложение формализуемо и достоверно для конкретных задач? Может, достаточно иметь ее как качественную модель типа абстракций ФГОС про личностные и мета- компетенции? Может, ISPEC– более наглядная структура всех компетенций ФГОС?

Надежды и сомнения требуют проверки, но так сложилось, что за полтора года с момента рождения эта работа не получила дальнейшего развития. Цель публикации– поделиться симпатичной моделью, которая явно имеет потенциал. Как минимум, качественно описательный.

Ролевая категоризация мегакомпетенций

(в скобках описательная характеристика типового поведения).

  • I: Интеллектуальная/познавательная компетенция
      • Исполнитель
        • Халявщик (Утилитарное): Только в рамках необходимого для работы
        • Здоровый пофигист (Любопытство): Некритичный интерес к информации, не относящейся к основной деятельности
        • Надежный исполнитель (Целостное): Критичный интерес к информации, формирующей личную целостную картину мира
      • Разработчик (Изобретательское): Заинтересованное изучение информации по собственной инициативе и интерес к созданию новых комбинаций (проектов, конструкций, идей)
      • Открыватель (Прорывное): Создание нового знания в культуре

  • S: Социальная компетенция
      • Исполнитель
        • Халявщик (Маргинальное): Минимально необходимое для жизни
        • Здоровый пофигист (Инфантильное): Фрагментарные представления о социальных ролях и их гражданской ответственности
        • Надежный исполнитель (Ответственное): Классифицируемая полная модель социальных ролей и адекватное позиционирование себя в ней
      • Разработчик (Гражданское): Активное участие в социальных/гражданских инициативах
      • Открыватель (Идеологическое): Формирование новых социальных/гражданских концепций

  • P: Персональная/личностная компетенция целеполагания
      • Исполнитель
        • Халявщик (Пассивное): Внешнее целеполагание, внешнее удержание дисциплины
        • Здоровый пофигист (Исполнительное): Внешнее целеполагание, самостоятельное удержание дисциплины в зоне терпимости
        • Надежный исполнитель (Лояльное): Готовность согласовывать цели и ответственно выполнять задачи по их достижению
      • Разработчик (Критичное): Готовность отстаивать свое видение целей и их достижения
      • Открыватель: (Предпринимательское): Собственное целеполагание

  • E: Эмоциональная компетенция
      • Исполнитель
        • Халявщик (Непосредственное): Спонтанное восприятие эмоций и неконтролируемая реакция
        • Здоровый пофигист (Воспитанное): Использование базовых культурных образцов поведения
        • Надежный исполнитель (Осознанное): Учет контекста эмоций партнера и умение подавлять свои проявления эмоций, которые могут усугубить контакт
      • Разработчик (Управляющее): Осознанное применение приемов управления коммуникацией
      • Открыватель (Чуткое): Тонкое и внимательное восприятие ситуации, управляемое проявление своих эмоций в целях наиболее продуктивной коммуникации для данной конкретной ситуации

  • C: Коммуникативная компетенция
      • Исполнитель
        • Халявщик (Бытовое): На основе бытовых форм и процедур
        • Здоровый пофигист (Типовое): С применением специальных процедур, по инструкции
        • Надежный исполнитель (Осведомленное): С учётом преимуществ и недостатков различных распространённых вариантов, включая меры защиты
      • Разработчик (Творческое): Использование нетрадиционных знаковых систем, инструментов, форм, процедур
      • Открыватель (Развивающее): Разработка новых знаковых систем, инструментов, форм, процедур

Мудрствуя о нашествии роботов

В свете опасений о вытеснении людей роботами с исполнительских позиций, роль разработчика становится все более важной. Если эти опасения начнут реализовываться именно так, как мы сейчас предполагаем, подобная детализация в отношении разработчика станет более актуальной и очевидной. Но пока я такой потребности не ощутил. Как минимум, прогресс роботов можно ожидать на легко формализуемых компетенциях. Традиционно гуманитарные компетенции к роботам пока только начинают примерять.

Беглое размышление о целостной картинке индивидуального профиля по всем мегакомпетенциям приводит к мысли о том, что уровень открывателя по любой из них, вероятнее всего, должен привести к существенной деградации по другим мегакомпетенциям, поскольку это аномально высокий уровень концентрации. В отношении уровня разработчика есть гипотеза, что это мировоззренческий стиль жизни, т.е. человек постарается достигать такого уровня по всем мегакомпетенциям или по нескольким их них. Аналогично, исполнительский уровень я ожидаю сравнительно ровным по всем компетенциям. Тем не менее, неизбежные неровности могут быть основой для профориентации и отбора.

Если гипотеза о мировоззренческой ровности мегакомпетенций верна, то самопозиционирование человека на том или ином уровне должно опираться на его мотивацию и связанную с ней самооценку. Повышение самооценки, в свою очередь, может повлиять на мотивацию. И тогда одной из стратегий внедрения роботизации должна быть забота о повышении самооценки человеком, а не уничижение его перед непрерывно растущим уровнем сложности искусственного интеллекта.

6 мар. 2017 г.

Черно-белое мышление на примере ЕГЭ

Дискуссия о перспективах ЕГЭ безнадежно скатывается к черно-белому разделению позиций «за» и «против», как будто такое деление отражает реальную проблему. Черно-белое отношение неоправданно упрощает варианты решения– мир цветной. Не нужно его упрощать бедными средствами мышления.

Нет людей, которые бы считали ЕГЭ готовым решением– все признают проблемы. Различие в перспективах его развития. Было бы просто, если бы спор вокруг ЕГЭ свелся к очевидной паре «вернуться к старой системе экзаменов» или «оставить в покое ЕГЭ». Есть и другие позиции. Но другие оказываются вне поля обсуждения, хотя именно эти две позиции самые уязвимые и, я считаю, тупиковые:

  • Возврат назад– полная амнезия старых проблем, от которых всем обществом стремились найти решение в конце 20 века. Кроме того, это неспособность понять истинный результат, показанный ЕГЭ: очевидность ориентации подавляющего большинства общества на результат экзамена, а не на образование как средство развития, познания мира, приобретение важных для жизни компетенций. Все это есть, но в дополнительном образовании, где экзамены не обязательны.

  • Готовность оставить ЕГЭ без изменений лучше возврата назад к старым проблемам, но тоже неудачный вариант: не может быть экзамен главной целью образования. Лучше всего этот вывод иллюстрирует абсурд в практике его проведения с попытками обмана и препятствующими обману издержками в виде полицейских операций с глушилками, ловилками, рамками, обысками...

Справедливы упреки в массовом натаскивании на задачи итогового экзамена вместо заинтересованного погружения в содержание обучения. Но натаскивание было и раньше! Раньше это было сложнее осознать, потому что требования к экзаменам и сами экзамены были разными и трудно сопоставимыми. У учителей была иллюзия, что дети учатся ради знаний, потому что они натаскивались на экзамен этих учителей и выбранных ВУЗов. А теперь экзамен единый и внешний, поэтому дети на своих учителей плюют, готовясь к другому экзамену. Но суть образования от этого не поменялась: учатся ради экзамена, что убийственно для настоящего образования. Экзамен вместо инструмента оценки результата обучения давно стал целью обучения. Бороться нужно с этим, а не с формой экзамена.

Мы не видим цвета, у которого нет названия. Так и общественная дискуссия про ЕГЭ обходит вниманием неименованные альтернативы: позиция «против ЕГЭ» для большинства подразумевает «возврат к старым формам экзамена». Попытки сопротивляться такой бинарности тонут в шумном споре. Иногда пробивается промежуточная идея о добровольном ЕГЭ, но сам контекст проведения проверочного экзамена по итогам обучения сомнению не подвергается вообще. Однако возможна другая организация образования, при которой могут быть иные способы проверки знаний по иным принципам, основаниям, в иное время. На мой взгляд, надо больше обсуждать не возврат к старому и не технологии совершенствования ЕГЭ (их и так обсуждают ответственные), а альтернативные варианты.

Тем более, что спор вокруг форм экзамена, на самом деле, идет о ценностях образования, но неявно, ибо аргументация сторон несопоставимая. Если начать явно обсуждать ценности, разговор обязательно выведет на корневые вопросы образования и необходимость переосмысления их в новых условиях. Просто, стороны боятся объема работы и предпочитают сражаться на частных вопросах. Но невозможно обмануть системные проблемы: можно победить в конкретной частности, но победа окажется пиррова.

Сама логика экзаменов устарела и уже не отвечает требованиям образовательного процесса. Она была оправдана в привычном нам виде на том этапе, когда обучение носило индустриальный характер, в котором ученики играли роль деталей на конвейере. Экзамен был сродни отметке ОТК. Когда факт выбраковки стал опаснее наличия брака в готовой продукции, выпускной экзамен стал атавизмом. Есть и объективные причины: ученики перестали быть объектами манипуляций учителя, начали проявлять свою субъектность и приобрели право выбора. Попытки уберечь итоговый экзамен в новых условиях приводят к колоссальным ничем не оправданным издержкам. Надо вернуться в начало и задать многочисленные вопросы «зачем?»: переосмыслить цели как системы образования, так и всех ее участников. Они разные! И тогда экзамен может оказаться совсем в иной логике. И популярная тема о результатах образования, качестве образования заиграет совсем иными гранями.

Здесь я хотел обратить внимание на неконструктивность старых стереотипов и ущербность столкновения черно-белых мнений. Не только в отношении ЕГЭ. Если проблема простыми правками не лечится, значит проблема сложнее. Особенно опасно в таких ситуациях бежать от нарастающих новых проблем к старым: попытка «выйти и снова войти» не сработает– это признак системных проблем. Но и упрямо рихтовать плохо работающий инструмент нельзя бесконечно. Важно вовремя понять, что он уже не справляется: пока худо-бедно работает старый, готовить новый. Свое мнение о развитии ЕГЭ не хочу обсуждать, чтобы не сбить основной посыл текста. Кому интересно, смотрите в блоге.

27 февр. 2017 г.

Жизнь– это эскалация риска

Если бы я был Богом, я бы старательно поддерживал на Земле конфликтность, чтобы стимулировать развитие способов их решения. Именно раздражающие конфликты, проблемы заставляют искать новые все более сложные способы структурирования среды вокруг себя. Именно поэтому всякие гуманистические идеи про «мир во всем мире» не больше, чем один из способов решить конфликт. Способ этот совершенно бесперспективен, пока нет иного конфликта, решение которого важнее и существеннее «мира во всем мире».

В некотором смысле, это рецепт лечения головной боли ударом по пальцу. Как и в этом рецепте, уровень конфликта должен быть адекватен ожидаемому уровню развития. Каждый способ уклонения от риска приводит более масштабным рискам. Более мощные риски– более серьезные усилия по их разрешению– более сложные инструменты решения и мышления. Глобальный ядерный конфликт может быть актуален только тогда, когда человечество будет готово к покорению космоса, например, но будет избегать этого.

Жирующее общество потребления на фоне нищеты остальных, особенно при информационной прозрачности мира, является грубейшим нарушителем принципа развития. Если увлекаться управленческими моделями жизни человечества, любой тип управляющего, от Бога до «тайного мирового правительства», должен спровоцировать взрыв, препятствующий праздному наполнению желудка. Именно поэтому нет и не будет никогда единственного центра силы у человечества, пока оно одиноко во вселенной.

Мир на Земле наступит не раньше, чем человечество выйдет за рамки Земли и более актуальными станут конфликты между Землей и внешними поселениями. Совсем необязательно этим конфликтам быть военными– достаточно, чтобы на фоне внешних конфликтов единство позиций на Земле было важнее распрей.

23 февр. 2017 г.

40 лет нонконформизма

Соглашаюсь с диагнозом Катерины Поливановой, публично озвученном на днях в мой адрес на конференции «Тенденции развития образования». Да, с переходом в старшую школу тихий послушный мальчик начал бузить. Если можно не соглашаться с собой, почему нужно соглашаться с другими?

40 лет с окончания школы в 1977 году. Так что, юбилей окончания школы на носу, а нонконформизму чуть больше. Реверансы своим учителям я уже публиковал. Среди них заметная доля из 179-й, в которой я учился именно в старших классах. На День математика 18 февраля, посвященный 85-летию НикНика, не попал, но помню его и рад, что он еще в строю.

Нонконформизм мой несовместим с воинской службой– с трудом вытерпел военные сборы. Поэтому всегда с неловкостью воспринимаю поздравления с Днем советской армии и флота во всех его инкарнациях. Это не мешает с полным уважением относиться к добросовестным служивым и разработчикам новых вооружений: к сожалению, до сих пор на равных можно договариваться только при наличии этих убедительных аргументов. Но оружие должно лежать в ножнах. Доставать его нужно только для тренировок на полигонах или для защиты, если иначе никак. И заниматься этим должны только те, кто чувствует желание служить в армии. Пушечное мясо уже не нужно, а техника сложна и динамична для надежд однажды обучить и иметь резерв на всю оставшуюся жизнь.

14 февр. 2017 г.

Роботы без Азимова?

Завтра в Европарламенте обсуждают рекомендации по приданию роботам прав в логике юридических лиц. И хотя комментаторы пишут, что понятие «электронная личность» имеет такое же отношение к человеческой личности, как «юридическое лицо» к человеческому лицу, наши православные уже заволновались о перспективах уничтожения человечества. Рекомендации Европарламента прямо с первых строк мотивирующей части документа отталкиваются от наиболее известных художественных образов.

Страхи можно понять: о возможном вытеснении людей роботами звучит из уст не только футурологов, но и экономистов. Исторические экскурсы про луддитов в позапрошлом веке и про бухгалтеров в совсем недавнем прошлом успокаивают не всех. Перед образованием встают вопросы, чему учить, чтобы не попасть под сокращения из-за роботов в ближайшем будущем.

У нас есть аналогичная законотворческая инициатива Гришина, на которую я недавно отреагировал.

В том же ряду стоит рассматривать 23 принципа искусственного интеллекта (ИИ), которые подписали очень уважаемые в ИТ западные знаменитости. Они отличаются по жанру и по направленности (ИИ, а не роботы), но по сути это примерно одно и то же– регулирование сферы использования умных технологий. Я не отделяю ИИ от роботов, поскольку чистый ИИ– сущность условная: в той или иной форме он должен оказывать воздействие на нашу жизнь. В роботах это проявляется более явно. Но суть от этого принципиально не меняется.

Любители фантастики и все, кто связан с робототехникой, наверняка знают 3 закона робототехники из рассказа Азимова «Хоровод» (1942), исключающие агрессивность роботов:

  • Первое: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  • Второе: робот должен повиноваться всем приказам, которые дает человек, если эти приказы не противоречат Первому Закону.
  • И третье: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.

Позднее в романе «Роботы и Империя» (1986) интеллектуальные гоминоидные роботы выводят 0-й закон, вычислив который логическим путем, выходят из строя:

  • 0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

На удивление, в предлагаемых нормах, с которыми удалось столкнуться, эти давно известные всем любителям научной фантастики законы никак не отражаются. Еще до принятия юридических норм первые практические реализации умных технологий направлены против человека: силовое подавление и лишение приватности. Неужели эти короткие формулировки законов оказались слишком наивны? Азимов из исторического далека ошибался или мы легкомыслены?

Мне эта тема показалась важной, в упомянутых текстах не все понравилось, поэтому захотелось отнестись, в надежде обратить внимание коллег и общества на эту тему, пока не поздно. Мне кажется, что в предложениях в логике понятийных сущностей типа юрлица или робота-агента не учтены важные системные упущения действующего законодательного принципа, унаследованного с доисторических времен: закон нацелен на поиск виноватых и их наказание. Закон должен быть нацелен на предотвращение, а не на месть.

Подписанные знаменитостями 23 принципа, изложенные в иной логике и акцентированные на ИИ, могли бы стать альтернативным направлением нормотворчества, но они показались мне, во-первых, слишком длинными, во-вторых, слишком умозрительными и поэтому нежизнеспособными. Подходы составителей к безопасности вызвали у меня смущение: я не понимаю ограничений на исследования, кроме страхов. Страхи не могут помочь в безопасности. Если миссия нашей цивилизации– создать новый разум, никакими формальными ограничениями этот процесс не остановить. Принципы типа хартии– это неплохо, если их немного. Безопасность я вижу не столько в хартии, сколько в жесткой нормативной регламентации на этапе реализации изделий. И пусть исследуют, что хотят. Генетические и бактериологические исследования более опасны, но их не могут контролировать.

С чем я полностью согласен, что исследования должны вестись открыто. Даже если будут выкладывать в доступ не все, обязательство заявить о своих работах и что-то публиковать обеспечит возможность мониторинга за теми, кто работает в сфере ИИ.

В качестве альтернативы, хочу предложить свои соображения о подходе к нормам будущего законодательства с учетом ИИ.

Управление рисками и жесткая регламентация

Поскольку силовые задачи человечеству нужны, в целях безопасности нужно, прежде всего, жестко разделить регламентацию силовых и гражданских изделий:

  • Силовые установки должны иметь броскую недвусмысленную внешность, предупреждающую издалека о своем назначении. Силовые установки должны исключать возможность спутать их с естественными животными организмами, прежде всего, с человеком, и с типовыми для обыденной жизни гражданскими установками. Безопасность силовых установок должна обеспечиваться жесточайшей регламентацией. Например, запрет создания многофункциональных силовых установок– только узкоспециализированных. Это позволит алгоритмически ограничить сферу их использования. Формирование многофункцинальных групп из разных установок можно ограничить особыми условиями, прежде всего, под особым внешним контролем и при наличии «волшебной кнопки» самоликвидации.

  • Гражданские установки должны жестко соблюдать законы Азимова. Нулевой закон Азимова, предполагающий приоритетность человечества над отдельным человеком, не может реализовываться гражданскими установками– функция силовой защиты людей друг от друга должна быть возложена исключительно на силовые установки. В безопасности гражданских установок люди должны быть абсолютно уверены, как и в надежности распознавания вида установки: силовая или гражданская.

Упомянутые 23 принципа ИИ при соблюдении законов Азимова гражданскими установками основную массу пользователей волновать не должны. Подразумеваемые в них риски могут проявиться только в силовых и экспериментальных установках.

Я вижу 3 уровня решения задач безопасности в соответствии с уровнями рисков:

  • механические риски
  • риски операционной системы (ОС)
  • риски логических выводов ИИ

Все конкретные риски должны быть классифицированы и документально отражены, в том числе, в виде внешней маркировки. Чтобы законы исполнялись,

  • механическая установка должна быть описана разработчиком с точностью до конкретных рисков, чтобы разработчик операционной системы целенаправленно строил программную реализацию, обеспечивающую их контроль.

  • Кроме контроля за механическими рисками, ОС должна иметь систему блокировок на случай программных сбоев и коммуникационных задержек.

    Тестирование установки должно заключаться в проверке всех описанных ситуаций. Если несчастный случай произойдет по причине, отсутствующей в описании рисков, за нее должен нести ответственность разработчик.

  • Системы ИИ не должны иметь возможности причинить вред человеку. Полагаю, они должны иметь два уровня:

    • защищенный приоритетный уровень безопасности (законы Азимова),
    • функциональный уровень, ответственный за целевые гражданские задачи.

    Возможно, слой безопасности логичнее реализовывать как часть операционной системы, потому что безопасность конкретной установки зависит от ее механических возможностей. У Азимова соблюдение законов предполагалось даже на аппаратном уровне– именно поэтому модуль управления роботов сгорал раньше, чем он мог законы нарушить.

Альтернатива может быть в том, чтобы слой «защитника» был самоценным для любых систем, потому что защита нужна не только механическим установкам. Мы все чаще и все плотнее работаем с системами ИИ, полагаясь на свой здравый смысл, не имея полного представления о работе ИИ. Есть смысл логику документирования рисков и формирования защитной прослойки с ИИ на основе конкретных рисков использовать не только в роботизированных системах.

Мы знаем, что обходят сегодня практически все, но сложность такого обхода должна быть существенно выше ценности такого пути.

Гражданские отношения

Кроме технологических мер, есть и гражданская ответственность разработчика, изготовителя, продавца, владельца, сервисной службы и хакера, взламывающего штатный режим изделия, обходя технологические барьеры. Если удастся сделать хороший защитный слой на базе ИИ, можно все эти сложные комбинации ответственности свести к отношениям вокруг него. А условием внешней ответственности для потребителя должен быть жесткий регламент запуска системы под защитным слоем.

Реализация законов Азимова неизбежно приведет к изменению законодательных принципов в обществе, потому что простая формулировка «причинить вред человеку» требует формализации, а это, по сути, вся нормативная база, построенная сегодня в логике наказания. А наказание бессмысленно в отношении робота. Наказание в отношении человека тоже бессмысленно, но мы уже так привыкли. Будучи переформулированными для робота, варианты причинения вреда человеку начнут пересматриваться в отношении людей, ибо это более разумно и эффективно.

На месте великих подписантов 23 принципов ИИ, я бы призвал к пересмотру принципов построения законов, унаследованных человечеством со времен рабовладельчества, а не к ограничению исследований ИИ на базе собственных страхов.

PS. 16 февраля Европаламент принял текст.