Кристофер Нолан сравнил ядерную бомбу с искусственным интеллектом. И назвал главную опасность ИИ
«Мало кто из журналистов удосужился написать об этом».
Кристофер Нолан дал интервью WIRED, в котором рассказал о создании «Оппенгеймера», оценил опасность ядерного оружия на примере мировой истории, а так же затронул не менее важную тему в наши дни – стремительно набирающий популярность искусственный интеллект (ИИ) и его широкие, а порой даже опасные возможности:
«Рост искусственного интеллекта в сфере систем вооружений и проблем, которые он создаст, был очевиден на протяжении многих лет. Мало кто из журналистов удосужился написать об этом. Теперь с появлением чат-бота, который может написать статью для местной газеты, внезапно для многих наступил кризис.
Если мы поддерживаем точку зрения, что ИИ всемогущ, мы поддерживаем точку зрения, что он может снять с людей ответственность за их действия — в военном, социально-экономическом плане и так далее. Самая большая опасность ИИ заключается в том, что мы приписываем ему эти богоподобные характеристики и поэтому позволяем себе быть безответственными.
Я не знаю, каковы мифологические основы для этого, но на протяжении всей истории человечества существовала склонность создавать ложных идолов, формировать что-то по своему образу и подобию, а затем говорить, что у нас есть богоподобные силы, потому что мы это сделали».
– Есть ощущение, что даже ядерное оружие кажется чуть более безопасным, потому что для изготовления бомбы нужны определенные ингредиенты. Это сильно отличается от потенциала суперкомпьютеров.
«Во время Второй мировой войны британская программа создания бомбы была очень сложной. Над ней работало много великих ученых. Но Черчилль и его правительство поняли, что у них просто нет ресурсов. Поэтому они отдали американцам все, что у них было. Говорили: у вас есть масштаб, есть удаленность от линии фронта, промбаза. Я видел статистику количества американцев, принимавших участие в создании первой атомной бомбы. Это было что-то порядка 500 000. Над этим работали многие компании. Это был масштабный физический процесс, поэтому и по сей день легко заметить, когда страна начинает занимается чем-то подобным. Поэтому это в какой-то степени вселяет в нас некоторую уверенность в том, что этим процессом можно управлять. Я не думаю, что все это применимо к ИИ».
– С помощью больших баз данных машины могут даже научиться самостоятельно делать следующий шаг.
«В LA Times была интересная статья о ChatGPT и OpenAI. Это действительно опасная вещь. Может быть, мы не должны выкладывать там все свои данные. Но теперь все хотят пользоваться этими ботами. Я чувствую, что в этом есть реальная опасность. Это лишь мое субъективное мнение. Мне кажется, с использования ИИ человек будто уходит от ответственности».
– Люди продолжают заявлять, что для ИИ должен быть руководящий орган. В том числе, и в правительстве. Должно быть какое-то международное агентство.
«Это самая старая политическая уловка в истории технологических компаний. Верно? Вы знаете, что SBF делал с FTX. Цукерберг годами просил, чтобы его деятельность регулировалась. Это старейший политический трюк. Все знают, что чиновники даже понять не смогут, как все это работает».
– Я не думаю, что ИИ представляет собой мягкую угрозу. Людям грозит дезинформация и технологическая безработица.
«Да, но при этом я чувствую, что ИИ все еще может быть для нас очень мощным инструментом. Я настроен оптимистично. Мы должны рассматривать его лишь как инструмент. Человек, который им владеет, по-прежнему должен нести ответственность за владение этим инструментом. Если мы присвоим ИИ статус человека, то да, у нас будут огромные проблемы».
– Видите пользу, которую ИИ может принести, например, для кинопроизводства?
«Определенно! Все что касается технологии дипфейков — это выдающийся шаг вперед в мире визуальных эффектов и в том, как мы можем работать со звуком. В долгосрочной перспективе появятся замечательные вещи: с точки зрения окружающей среды, с точки зрения строительства обычного дверного проема или окна, с точки зрения объединения массивных данных о том, как выглядят вещи и как свет реагирует на материалы. Эти штуки станут чрезвычайно мощными инструментами».
– Воспользуетесь ли вы этим?
«Я, знаете ли, очень старый и затхлый кинорежиссер. Я снимаю на пленку. И я стараюсь передать актерам полную реальность происходящего. В работе хочу я использовать технологии для того, для чего они лучше всего подходят. Например, если мы делаем трюк, опасный трюк. Вы могли бы сделать это с гораздо более видимыми страховочными тросами, а затем просто закрасить провода. Вот и все».
