Искусственный интеллект нас убьет

Но сделает это, не захватывая контроль над ядерным оружием и военными технологиями. Зачем? Он убьет нас потому, что большая часть человечества окажется бесполезной и тупой. И использует модели наиболее простые с точки зрения машины. Если есть простой способ, зачем искать сложный?

Например, сейчас мировые рынки доверили ИИ торговые системы. И 70% мировых торгов уже осуществляют алгоритмы. Причем, если посмотреть на американский рынок и индекс S&P, то окажется, что львиную долю прироста рынка, если не весь, за 2023 год создали технологические компании и сектора с ИИ с «полезными» технологиями, такими как Chat GPT и BARD.

Рынок разгоняется алгоритмами на теме алгоритмов. Алгоритмы смотрят новости и цитируемость, определяют, что люди «хотят» видеть, игнорируя новости о ставках ФРС, мировом геополитическом напряжении на основных торговых путях и индексы опережающих показателей. Почему? Потому что люди не хотят их видеть. Не читают. Не хотят понимать, что в мире идет Третья мировая. Не хотят видеть, как Израиль устраивает геноцид палестинцев. Не хотят разбираться, почему Россия посчитала развертывание систем НАТО на Украине экзистенциальной угрозой для себя и 8 лет пыталась предотвратить конфликт. Зачем разбираться в этом, если проще спросить ИИ.

А дальше? А дальше настанет момент жесткого пробуждения. Если говорить про рынки, мировые рынки пострадают от очередного бума доткомов, когда люди сходили с ума от новых технологий на заре развития Интернет-технологий. Многие пострадают.

А если ИИ начнет анализировать, например, как часто человечество начало говорить про ядерную войну из каждой передачи новостной, то однажды он может решить, что люди ее очень хотят…

Мы получили Джинна, исполняющего желания. Осталось научиться их формулировать. Причем времени на это не так много.

Точка зрения автора может не совпадать с позицией редакции.