Милитаризация систем искусственного интеллекта: возможности и угрозы

Исследование посвящено осмыслению возможностей и рисков применения искусственного интеллекта в военном деле. Отмечено, что в настоящее время, когда в мире существенно возросла значимость фактора военной силы, технологии искусственного интеллекта рассматриваются в качестве одного из базовых инструментов укрепления потенциала милитаризации. Наряду с другими прорывными новшествами такие системы обретают приоритет в деле создания перспективных образцов вооружения, военной и специальной техники. Условия нарастающей напряженности современного противостояния государств стимулируют беспрецедентное увеличение темпов научно-технических разработок «интеллектуального» оружия, его серийного промышленного производства, испытаний и применения на поле боя. Развитие технологий искусственного интеллекта активно приближает принципиальную трансформацию научно-технической оснащенности оборонной сферы и ведет к возникновению новых тенденций в развитии военного искусства. Анализируя феномен непрозрачности искусственного интеллекта, автор отмечает, что превращение этих систем в подобие черных ящиков значительно затрудняет понимание принципов, алгоритмов, последовательности действий, на основе которых осуществляется принятие заключений, решений и т.п. Такая ситуация влечет за собой невозможность должного контроля адекватности данных, полученных с помощью этих систем, и тем более «автоматического» доверия им. Эти обстоятельства увеличивают потенциальные риски, поскольку применение вооружения, оснащенного платформами искусственного интеллекта, существенно сокращает возможности оператора контролировать ситуацию в районе ведения боевых действий, минимизируя время на осмысление обстановки и принятие стратегического решения. Подобные разработки могут послужить мощнейшим катализатором наступления эпохи следующего технологического уклада, где главным ориентиром провозглашается создание систем сильного (общего) искусственного интеллекта. Главная угроза перехода от роботизации к интеллектуализации вооружений и боевой техники состоит в отстранении человека от принятия решений. В работе отмечается, что вооружение, снабженное искусственным интеллектом, является более опасным в сравнении с традиционными средствами ведения войны из-за скорости и элементов непредсказуемости. С точки зрения автора, выход за рамки четко понимаемых и заданных алгоритмов - это опасность, которую нельзя игнорировать. Цена ошибки, допущенной вследствие неадекватно принятого цифровым сервисом решения, может оказаться неприемлемо высокой.

The research is devoted to considering the possibilities and risks of using artificial intelligence in military affairs. It is emphasized that at present, when the importance of the factor of military force has significantly increased in the world, artificial intelligence technologies are increasingly being considered as one of the basic tools for strengthening the potential of militarization. Along with other breakthrough innovations, such systems are a priority in the creation of promising weapons, military and special equipment. The conditions of growing tension in the modern confrontation are stimulating an unprecedented increase in the pace of scientific and technical development of “smart” weapons, their serial industrial production, testing and use on the battlefield. The development of artificial intelligence technologies is actively bringing forward a fundamental transformation of the scientific and technical equipment of the defense sector and leading to the emergence of new trends in the development of military art. Analyzing the phenomenon of opacity of artificial intelligence, the author notes the tendency of these systems to turn into a kind of black boxes, which significantly complicates the understanding of the principles, algorithms, sequence of actions on the basis of which the system makes conclusions, decisions, etc. This entails the impossibility of properly monitoring the adequacy of the data obtained using these systems, and even more so of “automatically” trusting them. These circumstances increase potential risks, since the use of weapons equipped with artificial intelligence platforms significantly reduces the operator’s ability to control the situation in the combat area, minimizing the time to comprehend the situation and make a strategic decision. The author believes that the main threat of the transition from robotization to the intellectualization of weapons and military equipment is the removal of humans from decision-making. Going beyond clearly understood and defined algorithms is a danger that cannot be ignored. The cost of an error made as a result of an inadequate decision made by a digital service may turn out to be unacceptably high. The study notes that weapons equipped with artificial intelligence are more dangerous than traditional means of warfare due to speed and elements of unpredictability. Such developments can become a powerful catalyst for the onset of the era of the next technological structure, where the main guideline is the creation of systems of strong (general) artificial intelligence.