Write Close
Close
Заказать intro-сессию
"Человекоцентричная бизнес-модель"
Telegram
Whatsapp
Сообщение попадет лично Арсену Даллакяну

____

Дорожная карта по разработке принципов Робоэтики

Карлен Даллакян
Консультант по психо-философии, развитию личной и коллективной воли. Доктор философии, профессор
Июнь 22,2018
Человечество находится в преддверии нового этапа эволюции, в котором важная роль будет принадлежать системам искусственного интеллекта. Сегодня очень важно разработать стратегию развития нового "смешанного" общества. Это предполагает создание представленного вашему вниманию route map развития робоэтики, к совершенствованию которой мы приглашаем всех желающих.
робоэтика, этика искусственного интеллекта,  нейрофилософия, беспилотные авто

Скачать PDF карту

Этап #1.
Разработка основных принципов Робоэтики
Прежде всего необходимо определить степень взаимной ответственности человека и системы ИИ. Люди должны понимать, что наделяя ИИ возможностью бесконечного развития, не получится относиться к нему только как к инструменту. В то же время системы ИИ должны быть ограничены этическими и правовыми нормами.
1
Разработка моральных норм регуляции поведения роботов и их хозяев
Разработка видов и моделей ответственности за нарушение этих норм.

1.1 Для разработки моральных норм необходимо создать научно-исследовательские коллективы (союз инженеров, представителей естественных, технических и гуманитарных наук)

1.2. Нормы морали и поведения роботов разрабатываются для конкретной социокультурной среды. Роботы должны быть адаптированы к конкретной культуре посредством системы ценностей.

1.3. Для внедрения норм в массы требуется подготовка общественного сознания: СМИ, Интернет, искусство, научно-практические конференции.
2
Дифференциация субъектов ответственности
Ответственность должна разделяться между производителем, самими роботами и их владельцами.

2.1. Моральные нормы должны быть разделены на сегменты:

- Робот – робот
Разработка видов и моделей моральной ответственности за нарушение этих этических норм.

- Робот – хозяин
Исправное состояние и определенное «человеческое» отношение к роботам должно быть гарантировано их хозяевами. Если робот – субъект морали, то он требует к себе соответствующего отношения.

- Робот - остальные люди
Основная норма - Робот не может навредить человеку и человечеству.
Производители робототехники должны исходить из общечеловеческой морали.
Робот должен служить человечеству, а не только хозяину. Возможность использования роботов в узко личностных, классовых, национальных, конфессиональных целях, противоречащим интересам человечества, должна быть заблокирована производителем.
3
Разработка приоритетов в роботоэтике
Требование, предложенное Айзеком Азимовым «Не навреди человеку» должно быть конкретизировано с учетом конкретных обстоятельств и условий. Для этого робот должен иметь возможность (в определенной мере, когда нет возможности связаться с хозяином) самостоятельно принимать решение. То есть частично обладать свободой. Понятие «искусственный интеллект» в таком случае заменяется понятием «искусственный разум». Это неизбежно, поэтому люди должны быть готовы к определению моральных ограничений поведения систем искусственного разума.
4
Противоречие интересов
Производители робототехники должны исходить из общечеловеческой морали.

Робот должен служить человечеству, а не только хозяину.(Нулевое правило этики А.Азимова).Возможность использования роботов в узко личностных, классовых, национальных, конфессиональных целях, противоречащим интересам человечества, должна быть заблокирована производителем.
5
Гарантии
Исправное состояние и определенное «человеческое» отношение к роботам должно быть гарантировано их хозяевами.

Если робот – субъект морали, то он требует к себе соответствующего отношения. Люди должны уважать системы ИИ
6
Предотвращение аварий
Дискуссия о том, как должен вести себя робот при неизбежности аварии решается существующими моральными и правовыми нормами для людей
Зачем вы ищите информацию по
робоэтике?
.
Мерси! Голос в копилке!
Этап #2.

Создание научно- исследовательских коллективов и подготовка общественного мнения
Необходимо объединение разрозненных коллективов в единый союз инженеров, представителей естественных и гуманитарных наук в единую мировую лабораторию "Робоэтика", одной из задач которой будет подготовка общественного мнения к жизни в смешанном обществе
1
Создание научно-исследовательских коллективов
Разрабатывающие нормы поведения роботов в конкретной социокультурной среде, исходя из существующих в конкретной стране законов.
2
Союз ученых и практиков

Необходимо развивать Российский союз молодых ученых (инженеров и гуманитариев) по развитию ИИ
3
Подготовка общественного мнения
К необходимости развития робототехники вообще и беспилотников, в частности. Планирование и проведения передач на радио и TV, статей в прессе и Интернете, роликов, научно-практических конференций, снимающих стах человека перед ИИ.
4
Разработка норм правовой ответственности ИИ
Так как моральная ответственность возникает лишь со свободой, автономией воли. Это вопрос будущего. Сегодня по отношению к беспилотникам актуальнее говорить об ответственности вообще, а точнее о юридической ответственности.
5
Ответственность
Должны делить производитель беспилотников и его хозяин (собственник).
6
Моральное тестирование
Общие опции должны быть обеспечены производителем, а специфические, добавлены хозяином под свою ответственность.

Перед покупкой беспилотника хозяин должен пройти «моральное» тестирование на фирме, их продающей, для выяснения и хранения особенностей морально-этических ценностей хозяина беспилотника.
Этап #3.
Обеспечение автономии систем ИИ и управление ею
Развивая робототехнику, человек должен предвидеть возможность использования ее некоторыми людьми против интересов человечества. К тому же уже сейчас встречаются ситуации, требующие от системы ИИ самостоятельного решения. Поэтому необходимо создание систем ИИ с определенной автономией, основанной на общечеловеческой морали.
1

Система связи

Беспилотник должен быть оснащен средством экстренной связи с хозяином в случае непредвиденных ситуаций.

Тогда хозяин будет иметь возможность вмешаться в ситуацию, а следовательно и нести юридическую ответственность за возможную аварию.
2
Воля ИИ
Для разработки роботоэтики необходимо ставить вопрос не о возможности у робота мышления, а возможности развития у него воли.

Робот, обладающий волей (способностью принимать самостоятельно решения и нести за них ответственность) – следующий этап роботоэволюции. Это несет в себе предпосылки для проблем во взаимодействии робота.
Тогда роботоэтика выйдет на первый план.

Мораль управляет людьми посредством общественного мнения (уважения, презрения) и саморегуляции (угрызение совести). У роботов должен быть создан механизм подобный совести. При нарушении моральных норм, включенных в его память, должен начаться процесс саморазрушения.

Кроме штрафов и санкций хозяину, запускается еще и процесс саморазрушения робота.
3
Система считки
Беспилотники должны быть снабжены системой считки намерений противоположного (рядом находящегося) беспилотника.

Уже существует система считки и распознавания эмоций (боли) человека искусственным интеллектом. Коммуникация между авто беспилотниками уменьшит количество автоаварий, которых сегодня насчитывается 1,3 млн в год. Сегодня в штате Калифорния США более 40 компаний работают над беспилотниками. Уже более 300 машин-беспилотников созданы там и тестируются.
4
Виртуальное тестирование
Должна развиваться виртуальная система (система вертуальной реальности) тестирования взаимодействия беспилотников между собой и человеком
С целью дальнейшего переноса результатов в действительность.
5
Ре-дизайн социальных отношений
Области, нуждающиеся в обновлённом социальном дизайне, в первую очередь:
- медицина
- государственное и корпоративное управление
- полиция
- образование
- транспорт

6
Модернизация общественного сознания
Трансформации подвергнутся все шесть форм общественного сознания
Этика, Право, Религия, Наука, Философия, Искусство
7
Главный приоритет за Этикой, Правом и Религией
Так как перевозки пассажиров связаны с риском для здоровья и жизни. Необходимо задать такой дизайн отношений, чтобы минимизировать конфликты.

Вывод

Настоящая дорожная карта - не окончательный документ, а лишь руководство к действию. Работа предстоит огромная, но надеемся благодарная. Наш коллектив открыт для всех желающих, прежде всего, инженеров робототехники, кибернетиков, философов, психологов, юристов, специалистов иностранных языков и многих других.

ПРИСОЕДИНЯЙТЕСЬ!

Напишите в форме ниже свои контакты, ваши компетенции и мотивацию участвовать в проекте и мы обязательно ответим в течение 1 дня.
E-mail
Имя
Телефон
Комментарии
Как вам понравилась статья)?

Скачать PDF карту

PDF файл удобен для пересылки статьи коллеге или хранения на своем диске.
____

Рекомендуем
Click to order
Cart
Ваш заказ
Total: 
Your Email
Payment method
Второе издание. 2017 год
Саммари в 25 страниц из 226 страниц английского текста.
650
р.
1250
р.
Чтобы полностью использовать потенциал
искусственного интеллекта и автономных систем (ИИ/АС),
необходимо смотреть не только на машинное восприятие,
повышение вычислительной мощности и способностей к решению.
Сегодня необходимо также убедиться, что эти технологии ориентированы на людей с точки зрения моральных ценностей
и этических принципов
ИИ/АС должны не просто служить для достижения конструктивных целей и решения технических проблем, но и функционировать
наиболее выгодным для человечества образом.
Это обеспечит повышенный уровень доверия между человечеством
и нашими технологиями, которые необходимы для плодотворного
повсеместного использования ИИ/АС в повседневной жизни.
____

Вас также может заинтересовать