Write Close
Close
Заказать intro-сессию
"Человекоцентричная бизнес-модель"
Telegram
Whatsapp
Сообщение попадет лично Арсену Даллакяну

____

ОБЗОР СТАНДАРТОВ РОБОЭТИКИ ОТ IEEE

Карлен Даллакян
Консультант по психо-философии, развитию личной и коллективной воли. Доктор философии, профессор
Июнь 16, 2018
робоэтика, этика искусственного интеллекта,  нейрофилософия, беспилотные авто

1. Что такое IEEE

Институт инженеров электротехники и электроникиIEEE
(англ. Institute of Electrical and Electronics Engineers), являясь международной некоммерческой ассоциацией специалистов в области техники, мировым лидером в области разработки стандартов по радиоэлектронике, электротехнике и аппаратному обеспечению вычислительных систем и сетей, был основан в 1963 году.

Главной его целью является обеспечение информационной и материальной поддержки специалистов для организации и развития научной деятельности в электротехнике, электронике, компьютерной технике и информатике, практическое применение их результатов для развития общества.

IEEE, объединяя более 400 000 индивидуальных членов из 170 стран
(в том числе более 100 000 студентов), издаёт третью часть мировой технической литературы, касающейся применения радиоэлектроники, компьютеров, систем управления, электротехники, в том числе более сотни реферируемых научных журналов и десятки отраслевых журналов для специалистов, проводит в год более 300 крупных конференций.
Ассоциация принимала участие в разработке около 900 действующих стандартов.

Штаб-квартира IEEE расположена в Нью-Йорке, а операционный центр -
в Пискатэвэй, Нью Джерси, где решаются тактические деловые вопросы.

IEEE организован как «комитеты», каждый из которых сосредоточен на конкретной деятельности.

Комитет по технической деятельности (Technical Activities Board, TAB) наблюдает
за всеми действиями общества, включая публикации в журналах, конференции, награды и т.д.
Административный комитет (AdCom), как орган управления Общества MTT, отчитывается перед TAB. Группы TAB Обществ и Советов каждого из десяти дивизионов представляют специфические технические области.

Совет по образовательной деятельности (Educational Activities Board, EAB) отвечает за создание политики и специальные проекты, которые являются релевантными образованию и непосредственно не подпадают под деятельность TAB или RAB.
Одним из важнейших подразделений является Совет по стандартам IEEE, который
регулирует развитие стандартов, являющихся обязательными к исполнению
в промышленности.
IEEE управляется Советом Директоров (Board of Directors, BoD).
Президент IEEE председательствует в BoD.
Директор TAB и Вице-президент Питер Стекер (Почетный пожизненный член MTT-S) служит наряду с директорами дивизиона, которые представляют одну из десяти групп Обществ и Советы.

2. Основные требования к системам ИИ

После краткого общего знакомства с Институтом инженеров электротехники и электроники (IEEE), хотелось бы рассмотреть разработанные им три новых стандарта этики для искусственного интеллекта, которые должны сделать человеческое благополучие приоритетом при развитии высоких технологий.

Распространение роботов и беспилотных транспортных средств в ближайшие десятилетия, хотим мы этого или нет, приведет к значительным изменениям
в обществе. Существует множество дискуссий между сторонниками и противниками интенсивного внедрения ИИ в нашу жизнь. Порой многие авторы руководствуются лишь собственными страхами и фантазиями. Однако то, что должно быть, будет.

Нам следует выбрать самим — отпускаем ли мы ситуацию, или активно участвуем
в ее развитии и контроле.

IEEE сегодня активно работает над проблемой обеспечения мирного сосуществования людей и машин. Чтобы поддержать благополучие людей в мире разумных машин, эксперты IEEE представили проект трех этических стандартов развития ИИ.
Они включают в себя следующие пункты:

2.1. Этические стандарты для воздействия роботов и систем ИИ на человека

В этом стандарте рассматриваются действия ИИ, скрыто или явно влияющие на поведение и эмоции человека. Чтобы роботы придерживались в этом вопросе общепринятой этики и принципов морали, инженеры и философы должны совместно работать при разработке подобных систем.

2.2. Стандарт отказоустойчивости

Роботизированные системы в процессе работы потенциально могут нанести вред людям и окружающей среде. Необходимо внедрить стандарт для создания эффективных мер безопасности, снижающих риск ошибок, и безопасного прекращения эксплуатации скомпрометированных систем. Этот стандарт устанавливает четкие процедуры оценки тестирования и сертификации отказоустойчивости роботизированных систем.

2.3 Стандарт для влияния ИИ на благосостояние общества

Создатели ИИ — программисты, инженеры, технологи — должны учитывать, как произведенные ими устройства изменят благосостояние людей с точки зрения производительности труда и экономического роста. В этом стандарте определяется, какие показатели человеческого благосостояния необходимо принимать в расчет, при внедрении тех, или иных интеллектуальных систем. Это обеспечит основу для согласования данных между различными специалистами.
По словам руководителей IEEE, технологии будут играть все большую роль в жизни людей, поэтому важно уже сейчас приложить необходимые усилия для создания продуманных этических решений.
По мнению некоторых экспертов добровольного принятия этических стандартов недостаточно, ИИ нужен специальный регулирующий орган. Это позволит снизить риски для людей и модернизировать устаревшие этические правила.


2.4. Стандарты, которые должны быть обязательными для всех видов роботов:

1.1 Защита: дизайн всех роботов должен предусматривать удаленное управление роботом. У оператора должна быть возожность удаленно ограничить робота в ситуации, в которой должное поведение робота не может быть гарантировано.

1.2 Безопасность: конструкции всех роботов должны включать, как минимум, стандартные аппаратные и программные ключи, для защиты от незаконного использования робота.

1.3 Отслеживание: конструкция всех роботов должна предусматривать полное отслеживание действий робота, по принципу 'черного ящика' в авиации.

1.4 Идентифицируемость: все роботы должны быть спроектированы с защищенными от копирования серийными и идентификационными номерами.

1.5 Защита персональных данных: конструкция всех роботов, которые потенциально могут иметь дело с персональными данными и другой личной информацией, должна быть оборудована аппаратно-программным комплексом шифрования и надежно хранить эти личные данные.

Существует попытка разделить роботов по сферам деятельности и определить для людей определенные стандарты поведения в их отношении, которые выражены в отдельных статьях.

Статья 3. Роботы- Слуги
3.1 Государства-члены конвенции должны принять согласованные стандарты безопасности для производства адаптивных роботов слуг.

3.2 Государства-члены конвенции обязаны создать системы мониторинга и другие меры поддержания психического здоровья лиц, которые останутся на попечении роботов-слуг.

Статья 4. Роботы для уличных работ
4.1 Государства-члены конвенции должны создать независимый контролирующий орган, цель которого состоит в том, чтобы гарантировать выполнение экологических требований пользователями и производителями роботов для уличных работ.

4.2 Производители роботов должны создавать и обновлять отчеты о воздействии на окружающую среду роботов для наружных работ по запросам контролирующих органов.

Статья 5. Медицинские роботы.
5.1 Государства-члены конвенции должны основать комитет, включающий в свой состав как специалистов по робототехнике, так и специалистов по биоэтике.
5.2 Этот комитет должен гарантировать самые высокие стандарты безопасности и их выполнение.

Статья 6. Военная робототехника
6.1 Боевые роботы должны соблюдать международные правила.

6.2 Государства-члены конвенции должны стремиться к развитию критического мышления и осведомленности у ученых робототехников, участвующих в военных проектах, чтобы привлечь их внимание к потенциальным угрозам для человечества.

Статья 7. Обучающие роботы
7.2 За влиянием робототехники на обучение учащихся должно быть установлено регулярное наблюдение.

7.3 Регулярно должны проводиться психологические оценки влияния роботов на развитие детей раннего возраста


Какие же требования выдвигаются к системам ИИ? Какие проблемы и угрозы могут возникнуть в дальнейшем взаимодействии людей с системами ИИ, и какие рекомендации предлагает IEEE?
Система должна быть адаптирована (сама адаптироваться) под конкретную ситуацию и культуру, учитывать «Персональное пространство и его параметры в разных культурах.
Обладать способностью зрительного контакта.
Владеть языком жестов конкретной культуры.
Самой главной задачей Комитета по Этическим проблемам и задачам в работе ИИ является возможность применения этических норм ИИ, в которых процесс машинного самообразования, принятие решения основывался бы на принципах морали и этики.

3. Манипуляции со стороны ИИ

Проблема:
Стоит ли программировать систему ИИ так, чтобы она могла создавать условия для получения персональной выгоды пользователям или тем,
кто непосредственно управляет ею?

Рекомендации:
Необходимо понимание: кто будет конечным пользователем систем ИИ?
Для кого будут производиться эти разработки и наладка систем ИИ?
Существует ли риск потенциальной манипуляции?

Проблема:
ИИ Система, которая функционирует с процессом Подталкивания, не отдавая себе отчет о контенте, может привести к непредсказуемым результатам. Поэтому важен этический контроль.
Рекомендации:
При Подталкивании необходимо принимать во внимание и анатомические характеристики потенциального пользователя.
Система при Подталкивании должна распознавать, для кого она будет работать (ребенок или взрослый человек).
Системы ИИ, связанные с процессом Подталкивания, должны быть
в постоянной зоне мониторинга. Важно обозначить границы и этические нормы потенциального сотрудничества, чтобы не нанести ущерб в отношениях между людьми. Роботы могли бы быть использованы в секс индустрии и служить для превентивных мер в здравоохранении.
В разработках систем ИИ должны быть заложены ограничения (которые не позволят системам оскорблять, унижать или наносить вред пользователю по внешним признакам, полу или цвету кожи)..
Робото-проституция и секс туризм должны быть контролируемы соответствующими органами власти.
Проблема:
Приемлемы ли ложь во благо в работе систем ИИ?

Рекомендации:
Ложь допустима, если она приносит выгоду тому, к кому эта ложь обращена, но только не тому, кто генерирует эту ложь.
Зачем вам информация о стандартах
робоэтики от IEEE?
.
Мерси! Голос в копилке!

4. Угрозы

Широкое использование искусственного Интеллекта в обществе, может сделать наши организации более «хрупкими», уменьшая воздействие человека на конечный результат, ограничивая его автономию и творчество.
В деятельности человека всегда присутствует доля сочувствия. В работе ИИ исчезает совместный труд, возможность достижения общих целей.

Рекомендации:

Важно, чтобы сотрудники имели возможность постоянного человеческого общения друг с другом. Сохранить баланс между сотрудничеством ИИ и людским ресурсом. Усилить управленческий персонал людьми, а не машинами. Пересмотреть бизнес модели, в которых предусмотрена решающая роль ИИ в процессе взаимодействия между человеком и роботом.

Угроза:

Расширение доступа к личной информации посредством ИИ, может привести к возможной потери людьми своей автономии.

Рекомендации:
Административные и контролирующие органы должны высоко ценить право на свободу личности и обмен информации, автономность каждого человека, четко лимитируя процесс сбора и анализа персональных данных, собираемых и обрабатываемых ИИ.

Угроза:

Использование ИИ может негативно отразиться на психологическом здоровье человека

Рекомендации:
Исследование всех возможных реакций человека на процесс взаимодействия с ИИ

5. Эмоции

Проблема:
Эмоции ИИ могут ввести человека в заблуждение.
Эмпатия важна, однако она может привести людей к заблуждению, так как эмоции ИИ могут быть удалены в любой момент. Вся ответственность ложится на человека.

Рекомендации:
ИИ должны обозначаться как обслуживающие системы и подчиняться четким командам и установкам: быть «прозрачными» в своей деятельности и функционале.
Системы ИИ могут быть «временно глухими», - исходя из ситуации (например, в медицине).

6. Политика

Необходима разработка и внедрение контролирующей документации и принятия способов контроля ИИ.

Цель:
Работа ИИ должна поддерживаться нормами международного права.

Рекомендации:
Ответственность. Необходимо обозначить все структуры и организации, которые участвуют в продвижении ИИ в наше общество.
Отчетность. Те, кто занимается ИИ, должны отдавать себе отчет и быть подотчетны государственным органам контроля.
Отсутствие дискриминации, равенство и солидарность, - должны быть само собой разумеющимися принципами сотрудничества (дети или инвалиды).

Цель:
Обучение и организация квалифицированного обслуживающего персонала для работы с системами, которые были бы доступны для взаимодействия с правительством, академическим и индустриальным ресурсом.
Рекомендации : необходимо внедрение взаимовыгодных принципов в вопросе обмена информацией во имя общего успеха. Необходимы программы об обмене опытом и сотрудниками, делегациями и курсами, наличие обучающего процесса.
Необходимо организовать постоянное дополнительное обучение персонала, так как ИИ — это постоянно развивающийся «организм»


Цель:
Содействовать процессу понимания общественностью рисков и пользы использования систем ИИ.
Достаточно остро стоит вопрос о развитии у ИИ собственных чувств и понятий морали.

Рекомендации:
Необходимо увеличить финансирование междисциплинарных исследований по теме, начиная от межэтнических взаимоотношений, этических норм и принципов, приватности, самобытности, справедливости и возможности отношений между обществом и системами ИИ, выстроенных на доверии. Коммерческие организации должны принять на себя ответственность за действие подконтрольных им систем, проводить демонстрации работы ИИ

7. Этика

Рекомендации:
Включить в диалог о классических принципах морали и этики современные технологические процессы.
Проблема: необходим новый язык для полноценного общения между человеком и машинами. Люди исходят не только из логики, но и из культурных особенностей. Какой измерительной системой можно выявить уровни возможности или допуска в решении той или иной проблемы в работе с ИИ?
Самое главное отличие между автономией человека и автономией машины, это возможность принимать решения по «собственной Воле», предопределению и настойчивости. Джон Стюарт Милль говорил, что человек действует по закону предопределения, говоря при этом о возможности существования собственной Воли в благоприятно сложившихся обстоятельствах. Теория Миллса может послужить основанием для дальнейшего изучения предопределённости в поступках человека и взята за основу для процесса кодирования в создании новых автономных систем.

Рекомендации:
При рассмотрении вопроса об Автономии работы искусственного интеллекта начинать предлагается с вопросов о «собственной воли», гражданских свободах, как личности, так и общества в целом.
Проблема: Язык Этики. Необходимо выработать общий философский и научный язык для понимания и решения этических проблем взаимодействия с ИИ .
Рекомендации:
Необходима поддержка всех групп и организаций, которые выступают за расширение обучающего процесса для внедрения терминологии этики и морали в процесс кодирования и создания ИИ. Технологи должны принимать активное участие в обсуждениях и круглых столах совместно с философами, историками и другими гуманитариями.
Проблема: трудности заключаются в нахождении путей решения этических проблем в технической плоскости. Главная цель — предложить студентам использовать принципы этики так же, как они используют принципы инженерного строительства.

Инженерам предлагается разработать правила поведения, опираясь на которые, можно было бы рассматривать решение этических проблем в создании ИИ.

Основная цель - достичь в компьютерном языке Макро уровня. Этот Макрокод основан на Западной философии восприятия.
Рекомендации: Найти способы ознакомления инженеров с нормами этики на языке, который был бы им понятен. (то есть, сделать философско-этические понятия понятными техническим специалистам)

Проблема:
Создать доступ к вопросам классического этикета компаниям и корпорациям.
Вопрос интеграции этики в технологический процесс создания ИИ сегодня решается «поверхностно». Необходим мультидисциплинарный подход, установление контакта между философами, инженерами и законодателями.

7.1. Робоэтика и различие культур

Проблема:
Монополия Запада на этические вопросы.
Западное общество более индивидуальное, чем Восточное. Существует пропаганда Западных ценностей. Необходимо прийти к определенному стандарту, учитывая особенности Восточной культуры.
Проблема: Применение этики Буддизма в построении ИИ.
«Хорошими» действиями в буддизме считаются действия, которые имеют четко поставленную конечную цель, ведя к «освобождению», - Нирване.
Рекомендации: Этика буддизма смогла бы стать платформой для помощи в формулировании этических основ, в процессе создания и решения этических проблем в автономных системах, и быть некой рекомендацией для поведенческой модели наряду с набором этических принципов западной культуры.

Проблема:
Возможность применения этических традиций Ubuntu в вопросах дизайна для новых систем Искусственного Интеллекта.
Философия морали Убунту - «Добра для общества», то есть приоритет сообщества перед индивидом, может быть перенесена на процесс создания ИИ.
Основной принцип Убунту - это восприятия человека через его восприятие другими людьми. Каждый человек является частью большого коллектива, и его идентификация происходит через призму его роли в конкретном обществе. Человек- есть человек благодаря другим! Использование философии Убунту, может послужить основой, платформой для консолидации и выработки общих основ, при рабочем процессе кодирования будущих систем.
Проблема: возможность внедрения и использования традиций Шинто в создании ИИ. Традиции Шинто - это практически религиозные традиции, утверждающие, что все сущее имеет свою «Душу» или «Дух». Подобный подход может быть применим и к системам ИИ.
Рекомендации: можно использовать подход Шинто для внедрения данной философской точки зрения в будущих ИИ системах.
Комитет по вопросам Смешанной Реальности в технологиях коммуникаций и информации предлагает:
- Социальный интерактив.
- Ментальное здоровье.
- Образование и тренинги.
- Искусство.
- Приватность и контроль.


Раздел № 1: Социальные взаимодействия
Проблема: Как мы можем развиваться, не уничтожить и не причинить вреда самим себе, использовав и соединив при этом смешанную реальность ИИ и нашу интуицию?
Рекомендации: при входе в любое алгоритмическое пространство, входящий должен быть поставлен в известность о том, что представляет из себя это пространство и данный код (алгоритм). Это обеспечит доверие между создателями и пользователями системы и пространства.

Проблема:
Что происходит с культурными принципами при смешанной реальности в мире, в котором ИИ управляет иллюзиями?
Что произойдет в тот момент, когда большинство людей выберет для себя иллюзорный мир виртуальной реальности, мир, пребывание в котором приносит намного больше удовольствий, чем наша повседневная реальность? Как будет происходить процесс Вхождения и Выхода из этого мира? И что случится, если большинство людей сделают свой выбор в пользу виртуальной реальности?
Рекомендации: Предложить возможности обучения и создания учебного материала, а также классов и образовательных курсов в области позитивной психологии и человеческих взаимоотношений.

Проблема:
При помощи альтернативной реальности у нас появится возможность приобрести новые модели поведения, люди могут попытаться избежать тех проблем, с которыми они сталкиваются в повседневной жизни.

Проблема:

То, как мы воспринимаем и испытываем на себе современную физическую реальность в скором времени изменится.
Рекомендации: нужно принимать в расчёт появление новых, альтернативных созданий, необходимость обеспечения взаимосвязи между привычным нам физическим миром и миром новой, альтернативной и смешанной реальности.
Проблема: возможно, у нас получится больше не расставаться с теми, кто уходит от нас в иной мир (смерть).
Когда появится возможность сохранить сознание человека при помощи технологий и программного обеспечения, или создать аватар для копирования тех, кого мы любили, есть большая возможность в том, чтобы сохранить их присутствие в нашей жизни и после их смерти.
Рекомендации: возникает необходимость в создании абсолютно новой административной структуры для легального обращения с виртуальной реальностью. Паспорта, системы учета, формы собственности, а также культурные особенности обращения с новой аватарной формой собственности - все эти вопросы необходимо решать при внедрении альтернативной реальности в наш мир.

Проблема:

Смешанная реальность меняет способы нашего взаимодействия с обществом и может вызвать изоляцию.
Рекомендации: при смешанной реальности люди могут начать оценивать друг друга не по физическому контакту или форме, а по аватару, который может служить как наш представитель еще до начала знакомства.

Проблема:
Сознание искусственного интеллекта имеет возможность и потенциал для создания параллельных правил социального поведения.
Смешанная реальность может изменить социальные нормы. Может возникнуть среда для позитивного психологического воздействия и изменения взглядов на окружающий нас мир людских взаимоотношений и общего настроения.
Рекомендации: создатели смешанной реальности должны обладать повышенным чувством ответственности, за решения, которые они принимают и будут играть ключевую роль в процессе взаимодействия между человеком и системами.





Резюмируя
IEEE предлагает создание и совершенствование всеми участниками разработок Дорожной карты, в которую включают пока три самые общие положения.

Дорожная карта
1.Создание управления Этики.
2.Регуляция и контроль общей деятельности ИИ на благо общества.
3.Постоянный образовательный процесс в обществе о пользе взаимодействия между машинами и людьми.

Пишите нам по развитию этой дорожной карты на почту
dak58@mail.ru или в фейсбук https://www.facebook.com/kdallakian
Как вам понравилась статья)?
____

Рекомендуем
Click to order
Cart
Ваш заказ
Total: 
Your Email
Второе издание. 2017 год
Саммари в 25 страниц из 226 страниц английского текста.
650
р.
1250
р.
Чтобы полностью использовать потенциал
искусственного интеллекта и автономных систем (ИИ/АС),
необходимо смотреть не только на машинное восприятие,
повышение вычислительной мощности и способностей к решению.
Сегодня необходимо также убедиться, что эти технологии ориентированы на людей с точки зрения моральных ценностей
и этических принципов
ИИ/АС должны не просто служить для достижения конструктивных целей и решения технических проблем, но и функционировать
наиболее выгодным для человечества образом.
Это обеспечит повышенный уровень доверия между человечеством
и нашими технологиями, которые необходимы для плодотворного
повсеместного использования ИИ/АС в повседневной жизни.
____

Вас также может заинтересовать