Будущее войны и автономное вооружение. Ничья армия. Путешествие по миру роботов на поле боя и за ним

Текстовый конспект https://smart-lab.ru/blog/690852.php
Ничья армия - автономное вооружение и будущее войны.
Army of None: Autonomous Weapons and the Future of War · 2018
Пол Шарр Paul Scharre
Настала эра автономного оружия. Сегодня по всему миру по крайней мере тридцать стран имеют оружие, которое может самостоятельно искать и уничтожать вражеские цели.
Пол Шарр, ведущий эксперт в области ведения войны нового поколения, описывает эти и другие высокотехнологичные системы вооружения - от израильского беспилотника Harpy до американского корабля-робота для охоты на подводные лодки - Sea Hunter - и исследует правовые и этические вопросы, связанные с их использованием.
Эта книга - «Умный учебник того, что должно произойти в войне», «Army of None» использует военную историю, глобальную политику и передовые научные достижения, чтобы изучить последствия предоставления оружию свободы принимать решения о жизни и смерти.
Сам бывший солдат, Шарр утверждает, что мы должны использовать технологии, которые могут сделать войну более точной и гуманной, но когда выбор - жизнь или смерть, человеческому сердцу нет замены.
Эта книга - легко читаемое путешествие по миру роботов на поле боя и за его пределами.
Одна из самых интересных книг по военному делу, которую я когда-либо читал.
Обязательно к прочтению для всех, кто интересуется ИИ и будущим войны.
Авторитетный и отрезвляющий взгляд на автоматизированные поля сражений, которые очень скоро станут характеристикой военного конфликта.
В этом всестороннем анализе Шарр выходит за рамки клише« роботов-убийц.
Эта книга, вероятно, станет самой важной книгой по этой теме для широкой аудитории по крайней мере в течение следующего десятилетия.
Универсальный путеводитель по дебатам, вызовам и да, возможностям, которые могут появиться в результате автономной войны.
Трезвый, политически ориентированный учебник о том, что грядет… написанный в интересной и доступной манере.

Эта книга определенно охватывает весь спектр вопросов об автономном оружии, включая информацию из многих отраслей с высоким уровнем риска. Существенно обсуждается аспекты политики управления технологиями.

Послушайте или прочитайте обзор книги «Ничья армия: автономное вооружение и будущее войны», чтобы понять, насколько смертоносной может быть автономия оружия и какие шаги следует предпринять миру, чтобы достичь безопасности в этой сфере.

4 причины познакомиться с обзором:
• понять, насколько современное вооружение автономно, независимо от
человека;
• развеять страхи о возможном восстании машин;
• ознакомиться с азами работы глубоких нейросетей в ИИ;
• вникнуть в моральный аспект углубляющихся контактов людей и машин.

7 главных мыслей.
1. На каждое преимущество автономии есть соответствующий недостаток.
2. ИИ лишь прибавляет к минусам автономии дополнительные риски: возможность взлома, непостижимость процесса принятия решений, доступность, нечеловеческая скорость развития.
3. ИИ так или иначе будет использоваться в ведении войн, но только человек способен создать машину, превосходящую его самого по интеллекту.
4. На успех/неудачу запретов автономного вооружения влияют три фактора: количество стран, необходимых для устойчивости запрета; осознание чудовищности оружия; понимание потенциальной пользы от запрета.
5. Критерии успешных договоров — ясность трактовок, мотивация, соблюдение принципа зеркальности, прозрачность.
6. Сегодня никто из ключевых государств-игроков на рынке автономного вооружения и ИИ не выступает с инициативой мирового запрета этих технологий. Предложения о запрете поступают снизу, а не сверху.
7. Если мы не предпримем действия по какому-либо, даже незначительному, ограничению автономии машин, то вместо того, чтобы принести пользу человечеству, машина навредит ему.


От картечи до ВТО, от робота-пылесоса до израильской «Гарпии».
Автономия: три измерения.
контролируемой автономией.
Израильская «Гарпия» —пример полной автономии.
Автономия: палка о двух концах.
нечеловечность, подпитывает один из основных страхов людей перед автономией — восстанием машин.

Искусственный интеллект: «мозг» в машине или машинный мозг?

Обратная сторона Терминатора).
• непостижимость процесса принятия решений;

• нечеловеческая скорость развития.

парадокс Терминатора.