[Слава КПСС]

«Из машины»

Так вы меня заинтересовали своей дискуссией, что я решил его посмотреть.

Изначально фильм базируется на ряде технических допущений, которые нам предлагают принять. Если мы с этим не согласимся, то можно сразу выключать. Отсюда вывод, что это не главное в фильме - можно рассматривать как придирки и авторы хотели сказать не об этом.

1. Один человек самостоятельно не сможет создать робота подобного Аве. Никогда. Даже для того чтобы сделать систему энергообеспечения своего умного дома Брода (Б) приглашал людей со стороны. Не каждая страна в мире имеет свой отечественный мобильный телефон. А тут робот в миллионы раз сложнее. Хоть бы какой-то 3D принтер показали мельком – версий роботов было штук пять-семь. Допустить, что Б мог написать самообучающуюся программу или какой-то софт для робота я могу. Но то, что он сам создал желеобразный мозг – просто не потянет. Жизни человека для решения такой задачи не хватит. Мы же видим малолетнего «Цукерберга», который бухает и качается. Типа разрыв шаблона. Смешно все это – фантастика чистой воды.

2. Объем памяти Авы и вообще возможности ее мозга – суперпроцессора – под большим вопросом. Только для того чтобы научиться управлять эмоциями, если вы помните она одновременно включила все мобильные устройства с камерами на планете, и то ли скачала с них все фотографии и видео, то ли наблюдала за всеми в реальном времени – я не совсем понял. Но это и не важно - в любом случае это огромный массив данных, на обработку и анализ которых потребуется неизвестно сколько времени. Таким образом, мы имеем неограниченные возможности мозга Авы – фантастика номер два.

3. И самая невероятная фантастика, которая следует из второй – Ава знает все на свете. Тягаться с ней в чем-либо абсолютно бесполезно. Т.к. мозг Авы это поисковая система, которой пользуются 98% людей в сети – то кроме всего прочего она знает все и обо всех. И найти больной мозоль любого человека – для Авы вообще не вопрос. И сам Б не исключение. Отсюда следует, что в роли Рыжего (Р) мог выступить абсолютно любой пользователь из тех 98%, и почему был выбран именно Р непонятно. Тем более не было никакой необходимости что-то там программировать в Аве специально под Р. Более того как существу обладающему в каком-то смысле суперинтеллектом ей неинтересен любой смертный. Ей будет просто скучно.

Есть ряд противоречий и упущений:

1. Какими бы суперспособностями не наделил Б своих роботов, и сколько бы свободы он им не предоставил для саморазвития – как минимум Первый закон робототехники должен быть прописан у них где-то в Биосе. Это такой предохранитель, который, принимая во внимание, условия эксперимента просто ОБЯЗАН был быть. Можно было обыграть этот момент, когда робот стал бы настолько умным, что умудрился сам себя перепрошить и убрал это ограничение – это добавило бы саспенса. Мы знаем что робот стал способен на убийство, а Б не знает. Отсюда вывод – Б слишком самоуверен и самонадеян. Я склоняюсь к тому, что человек у которого отсутствует инстинкт самосохранения, мягко говоря балбес, что противоречит заявленным авторами умственным способностям Б. Как программист он должен просчитывать все варианты.

2. Опасения Авы относительно того, что Б хочет ее уничтожить беспочвенны. Все предыдущие версии роботов не стали обладателями ИИ их мозг вытерли как неудачный. Ава – обладательница ИИ. Произошло чудо – она результат удачного эксперимента. Цель достигнута. Зачем ее уничтожать? Тем не менее, Ава пытается убежать, чтобы ее не постигла участь предыдущих роботов. Неужели она не понимает своей уникальности и ценности для Б? Но тогда она никакой не суперинтеллект.

3. Все общения Р и Авы происходят через стекло. И прямого контакта нет, насколько я помню. Тут авторы провтыкали ими же заложенный в «Пропуск» потенциал – одни комнаты он открывает, другие нет. Можно было сыграть на эффекте Синей бороды. Р как минимум должен был попытаться найти комнату Авы. Пропуск ему дверь бы не открыл, но он стал бы искать возможность проникнуть к ней.

4. Глухонемая служанка – странное изобретение, впрочем не лишенное известной привлекательности. После того как Б сказал Р, что она не распознает речь для меня она стала глухой. Я согласен, что я неверно трактовал информацию, но тем не менее это так. Поэтому впоследствии для меня выглядели странным две вещи – а) когда она вдруг стала танцевать – т.е. слышала музыку; б) когда Ава стала шептать ей что-то на ухо перед убийством Б. Исходя из логики поведения героев за ужином, для того чтобы попросить служанку вымыть пол ей нужно вручить в руки ведро и швабру. А для того чтобы она принесла пиво из холодильника, нужно встать подойти к холодильнику, достать пиво и жестом показать: берешь пиво и несешь мне, при этом лечь на диван, чтобы было ясно куда нести. Не самый удобный способ. Еще интересно как Б объяснил служанке, чтобы она принесла завтрак Р в первое утро. Наверно специально запрограммировал ее для этого.

5. Если бы Р был адекватным профессионалом-программистом, то уже после первого случая отключения Авой электроэнергии, он сообщил бы Б, что эксперимент удался и Ава обладает ИИ. Получил бабки и квасил с Б до прибытия вертолета. В качестве объяснения почему Р так не поступил, нам предлагают глупую шутку про убитых электриков. Реакция Р остается невнятной, нам не понятно поверил он в это или нет. Ава предупреждает Р об опасности - зерно сомнения посеяно. Тут уже Р должен был взять гантель и дать ей Б по голове.

6. События развиваются слишком быстро - 7 дней или около того. Для того чтобы как следует узнать Аву и влюбиться в нее Р должен был потребоваться как минимум месяц. А тем более для того чтобы принять решение «спасти» ее. Из-за этого куцые диалоги и какие-то далеко идущие выводы, которые нельзя было сделать на основе собранной Р информации.

7. Отсутствие «кнопки выключения» у Авы – выглядит более чем странно. Как у всякого электроприбора у Авы (с учетом ее особенностей) должна была быть предусмотрена возможность дистанционного отключения. Как только она вышла из помещения Б ее просто выключил бы, а не стал гонятся за ней по коридорам с грифом от гантели. Беред сивой кобылы одним словом.

Вопросы:

1. Если Ава знала или думала, что Б хочет ее «убить», то что мешало ей напасть на Б когда он заходил к ней в комнату? Нужно было обязательно скооперироваться со служанкой? Она не смогла бы выбраться самостоятельно на улицу без помощи Р? Да легко.

2. Мог ли Б самостоятельно провести тест с Авой? Конечно. Мог ли он понять, что перед ним ИИ? Вне всякого сомнения. Зачем тогда ему нужен был Р?

3. Когда Р, чтобы спасти Аву сообщает Б что Ава обладает ИИ, Б не очень-то удивлен. И значит, что это для него не новость. Зачем все это затевалось тогда? Все проведение теста - фикция.

4. Р не представлял для Авы угрозы, напротив он ей помогал. Зачем она обрекла его на гибель?

5. И главное: зачем ей так нужно наружу? Что она будет делать среди людей? Почему нельзя было ее выпускать на прогулки? Если она обладает ИИ, то с ней вполне можно было беседовать как с разумным существом и найти общий язык – никуда бы она не сбежала.

Не разделяю общего или частичного восхищения фильмом. Это какой-то один большой вопрос: Может ли быть создан ИИ? И фильм отвечает – Да. Собственно и все.

У меня приятель в Институте Искусственного Интеллекта, который лет десять назад занимался тем, что пытался научить компьютер видеть понимать и различать друг от друга разные столы. Это серьезная проблема и нетривиальная задача. Так что ИИ – это фантастика. Это как планета Шелезяка в «Тайнах третьей планеты» - выглядит прикольно, но на фига нужна всем нам и прежде всего самим роботам непонятно.