Definicja sztucznej inteligencji
Obecnie nie ma jednej, powszechnie akceptowanej definicji sztucznej inteligencji (SI)1,2. Nieustannie pojawiają się coraz to nowe możliwości definiowania SI, co jest skutkiem ciągłych zmian zachodzących w tej dziedzinie i jej nieustannemu rozwojowi. W ciągu ostatnich kilkunastu lat nastąpił znaczny wzrost zainteresowania tą tematyką, co potwierdza 8-krotny wzrost liczby publikacji akademickich na temat sztucznej inteligencji wydanych od 2010 roku3.
Można argumentować, że pod terminem sztuczna inteligencja kryje się szeroki zakres technologii odnoszących się do dziedziny informatyki, których celem jest „budowa inteligentnych maszyn zdolnych do wykonywania zadań zwykle wymagających ludzkiej inteligencji”4, które w swej naturze byłyby w pełni lub częściowo autonomiczne. Sztuczna inteligencja jest w stanie naśladować lub wykazywać funkcje związane z ludzkimi zachowaniami takie jak zdolność do uczenia się, autokorekty lub rozumienia języka5. Systemy oparte na sztucznej inteligencji mogą być oparte na oprogramowaniu i działać w świecie wirtualnym (przykładem są tutaj systemy rozpoznawania mowy i twarzy, czy też oprogramowanie przeznaczone do analizy obrazu), jak również być wbudowane w urządzenia sprzętowe (drony, autonomiczne samochody itp.)6.
Międzynarodowy wyścig na rzecz rozwoju sztucznej inteligencji
SI jest dziedziną technologii, która niesie istotne zmiany dla wielu sektorów, w tym dla sektora bezpieczeństwa, zarówno na poziomie międzynarodowym, jak i krajowym. Wiele krajów bierze udział w międzynarodowym wyścigu na rzecz opracowania najbardziej zaawansowanych systemów SI, zarówno do celów wojskowych, jak i cywilnych.
Wśród krajów, które rozwijają SI znajdują się m. in. Stany Zjednoczone, Chiny, Rosja, Niemcy, Kanada, Wielka Brytania, Japonia i Indie. Każdy z nich ma swoją indywidualną ścieżkę rozwoju SI. Według wielu opracowań liderami tej rywalizacji są Stany Zjednoczone i Chiny, a za nimi podąża Rosja. Zdecydowana większość pozostałych uczestników wyścigu ma trudności z konkurowaniem z którymkolwiek z tych trzech państw. Z tego powodu niektóre kraje starają się wysunąć na pierwszy plan, rozwijając konkretne obszary sztucznej inteligencji, czego przykładem jest Wielka Brytania. Jej władze ogłosiły w 2018 roku, że planują, iż kraj ten stanie się światowym liderem w dziedzinie rozwoju „etycznej sztucznej inteligencji”. M. Gould, były już brytyjski dyrektor generalny ds. technologii cyfrowych i mediów, stwierdził, że brytyjscy naukowcy mają „brać pod uwagę etykę [w rozwoju SI] na każdym kroku, a nie spychać ją na dalszy plan”7. Z kolei Niemcy, uznając, że potencjał ich pozaeuropejskich konkurentów jest o wiele większy, ogłosiły w 2018 roku, iż ich celem jest zostanie wiodącym ośrodkiem rozwoju sztucznej inteligencji w Europie8.
Jednak nie tylko państwa silne i stabilne gospodarczo rozwijają SI. Również kraje mniejsze, takie jak Wietnam i Malezja dostrzegły korzyści płynące z rozwoju sztucznej inteligencji i wykazały zainteresowanie rozwojem tej technologii we własnym zakresie9.
Rządy na całym świecie są świadome, że SI znacznie zmieni światową równowagę sił militarnych, a zmiana ta wpłynie na przekształcenia w globalnym krajobrazie politycznym. SI oferuje zastrzyk znacznej siły technologicznej i wojskowej dla mniejszych i słabszych państw (pod względem ich możliwości gospodarczych, liczby ludności lub potencjału wojskowego). Można więc argumentować, że sztuczna inteligencja jest jednym z najpotężniejszych multiplikatorów sił w XXI wieku.
Spośród wszystkich państw, które w ostatnich latach koncentrowały się na rozwoju SI, przedstawione zostaną tutaj Stany Zjednoczone, Chiny i Rosja, czyli trzy państwa, które są najczęściej postrzegane jako wiodące prym w jej rozwoju. Kraje te wydały ogromne sumy pieniędzy, chociaż trzeba podkreślić, że kwoty przeznaczone na rozwój sztucznej inteligencji przez Rosję są mniejsze niż w przypadku Chin i USA.
Stany Zjednoczone
Można postawić tezę, że Stany Zjednoczone były największym beneficjentem ostatniej fali rozwoju technologicznego i nie powinno dziwić zatem, że są „domem” dla niektórych z największych i najważniejszych światowych firm technologicznych, do których zalicza się Apple, Facebook czy Google. Rozwój SI jest kolejnym etapem rozwoju cyfrowego, a podkreślając jego znaczenie były już prezydent Stanów Zjednoczonych, Donald Trump powiedział, że „dalsze amerykańskie przywództwo w dziedzinie sztucznej inteligencji ma ogromne znaczenie dla utrzymania bezpieczeństwa gospodarczego i narodowego Stanów Zjednoczonych […]”.10 Szereg sprawozdań, analiz, artykułów i innego rodzaju publikacji, potwierdza, że to Stany Zjednoczone przewodzą globalnemu wyścigowi na rzecz rozwoju SI, zarówno w jej konkretnych, bardziej specyficznych aspektach, jak i w ujęciu ogólnym11,12,13,14.
Rzeczywiście, w ciągu ostatnich lat władze Stanów Zjednoczonych udowodniły z jaką powagą traktują rozwój sztucznej inteligencji. Wśród wielu przykładów, The U.S. National Defense Strategy of 2018 wskazała sztuczną inteligencję jako jedną z technologii, które pozwolą USA „walczyć i wygrywać wojny przyszłości”15. Aby uniemożliwić Chinom i Rosji wyprzedzenie USA w wyścigu zbrojeń SI, w 2018 roku, w ramach Departamentu Obrony utworzono Joint Artificial Intelligence Centre. Do jego głównych zadań należy m. in. przyspieszenie procesu wdrażania i adaptacji sztucznej inteligencji, a także obrona amerykańskiej infrastruktury krytycznej przed złośliwą działalnością cybernetyczną, która mogłaby spowodować znaczący incydent cybernetyczny16. Zaś w lutym 2019 roku były prezydent Trump uruchomił American Artificial Intelligence Initiative, która ma „wspierać innowacje w dziedzinie sztucznej inteligencji, które z kolei mają zwiększyć dobrobyt, wzmocnić bezpieczeństwo narodowe i poprawić jakość życia Amerykanów”17.
Co ciekawe, władze USA postanowiły nawiązać współpracę ze Zjednoczonym Królestwem i niedawno podpisały deklarację w sprawie współpracy w zakresie badań i rozwoju nad sztuczną inteligencją, poprzez którą chcą promować „wzajemne dobro, dobrobyt i bezpieczeństwo obecnych i przyszłych pokoleń”18.
Stany Zjednoczone, podobnie jak inne kraje rozwijające SI, dokonują postępów w tej dziedzinie zarówno w celach wojskowych, jak i cywilnych, przy czym te ostatnie obejmują projekty, które mają także pomóc w walce z pandemią COVID-1919. Wśród militarnego rozwoju sztucznej inteligencji przykładem są wysiłki podejmowane przez różne rodzaje amerykańskich sił zbrojnych na rzecz wprowadzenia półautonomicznych i w pełni autonomicznych pojazdów20. Niektóre testy zostały już przeprowadzone przez Siły Powietrzne USA (program Loyal Wingman), Armię (Robotic Combat Vehicles, z autonomicznymi funkcjami nadzoru, nawigacji i usuwania IED – improwizowanych ładunków wybuchowych21), lub Marynarkę Wojenną (Anti-Submarine Warfare Continuous Trail Unmanned Vessel, zwany „Sea Hunter”, który, w przypadku pomyślnego wejścia do służby, „zapewniłby Marynarce Wojennej możliwość samodzielnej nawigacji na otwartym morzu, wymiany modułowej ładowności i koordynacji misji z innymi statkami bezzałogowymi”22, przy zachowaniu możliwości nieprzerwanego operowania przez okres kilku miesięcy23). Co więcej, kilka lat temu wojsko amerykańskie wprowadziło program SI o nazwie „Project Maven”, który wykorzystuje techniki nauki maszynowej, do pomocy amerykańskim żołnierzom w identyfikowaniu celów na filmach bądź zdjęciach wykonanych przez drony. „Project Maven” został wdrożony w różnych zakątkach Ziemi, na przykład na Bliskim Wschodzie i w Afryce24.
Chiny
Chiny są uważane za jeden z krajów, które są najintensywniej zaangażowane w globalny wyścig na rzecz rozwoju SI. Chociaż przez niektórych Chiny postrzegane są jako światowy lider, zdecydowanie częściej są one stawiane w tyle za USA w tej rywalizacji25. Niemniej jednak mówi się, że Pekin poczynił i czyni nadal, szybsze postępy w zakresie rozwoju SI niż jakiekolwiek inne państwo. Władze w Pekinie ogłosiły swoje ambicje aby do 2030 roku Chiny stały się światowym liderem rozwoju SI26, ponieważ zdały sobie sprawę – wraz z innymi krajami – że sztuczna inteligencja jest kluczem do posiadania mocarstwowej pozycji w przyszłości i ktokolwiek opanowałby jej rozwój, wedle słów prezydenta Rosji Władimira Putina, „będzie władcą świata”27. Chińscy przywódcy wyższego szczebla doskonale zdają sobie sprawę, że SI jest niezbędna dla rozwoju militarnego jak również dla skutecznego konkurowania z największymi potęgami gospodarczymi na świecie.
Chiny poczyniły ogromne inwestycje w sztuczną inteligencję, wydając duże kwoty m. in. na edukację w zakresie SI. W 2018 roku chińskie Ministerstwo Edukacji uruchomiło szereg inicjatyw, które mają na celu m. in. rozwój 50 światowej klasy ośrodków badawczych w dziedzinie sztucznej inteligencji oraz przeszkolenie ponad 500 instruktorów i 5000 studentów w ciągu najbliższych kilku lat28.
Chiny rozwijają sztuczną inteligencję zarówno w sposób korzystny dla swoich obywateli (i ogółu ludzkości w szerszym ujęciu) jak i niepokojący z jednego z wielu powodów. Pekin poczynił szybkie postępy w sektorze opieki zdrowotnej, m. in. poprzez rozwój klinik medycznych prowadzonych przez sztuczną inteligencję, zdolnych do „zapewnienia konsultacji online w odniesieniu do ponad 2000 powszechnych chorób oraz do natychmiastowej odpowiedzi na dziesiątki tysięcy zapytań medycznych i zdrowotnych, z zachowaniem międzynarodowego standardowego poziomu dokładności”29, oraz rozwijanie głębokiego uczenia w celu przyspieszenia przetwarzania obrazów medycznych, co z kolei powinno pomóc w znacznie szybszym diagnozowaniu nowotworów i innych poważnych schorzeń. Ponadto należy podkreślić, że w ciągu ostatnich kilku miesięcy wielu chińskich badaczy i naukowców zajmujących się sztuczną inteligencją zaangażowanych było w walkę z pandemią Covid-19.
Niemniej jednak nie każdy aspekt rozwoju sztucznej inteligencji przez Chiny jest korzystny i pożyteczny dla przeciętnego obywatela i szlachetny w swojej naturze, gdyż rząd Chin wykorzystuje SI również w sposób, który wyraźnie narusza wolności obywatelskie i prywatność ludzi. Według raportów opublikowanych w 2019 roku, SI umożliwiła władzom chińskim poddanie mniejszości muzułmańskich mieszkających w Chinach, zwłaszcza Ujgurów, masowej inwigilacji na niespotykaną dotąd skalę30. Chińskie władze i służby porządkowe często stosują algorytmy sztucznej inteligencji w celu zestawiania danych osobowych, w tym danych uzyskanych za pomocą systemu rozpoznawania twarzy, a tym samym identyfikacji obywateli przeznaczonych do zatrzymania. W rzeczywistości rząd chiński wykorzystał już systemy monitorowania aby umieścić ponad milion swoich obywateli w obozach reedukacyjnych za wyrażanie swojej muzułmańskiej tożsamości31.
Rosja
W 2019 roku Rosja przyjęła strategię rozwoju sztucznej inteligencji do roku 2030 – National Strategy for the Development of Artificial Intelligence32. Dokument ten ma na celu m. in. zwiększenie wydatków na badania i rozwój technologii SI, a także stworzenie systemu regulacji stosunków społecznych, które powstaną w związku z wykorzystaniem sztucznej inteligencji. Ponadto w 2020 roku uruchomiono federalny projekt rozwoju sztucznej inteligencji w ramach Programu Gospodarki Cyfrowej Federacji Rosyjskiej33.
Wraz z intensywnymi pracami nad rozwojem wojskowej SI, które zostaną pokrótce opisane poniżej, Moskwa rozwija tę technologię także dla celów cywilnych. Dla przykładu, jedna z firm nadzorujących rosyjski transport kolejowy testuje autonomiczne pociągi34. Ponadto podjęła ona próbę wykorzystania SI do przewidywania popytu na transport i zapotrzebowania na bilety, chociaż system ten wymaga dalszego rozwoju, ponieważ wykazał on jak dotąd wiele nieprawidłowości. Co więcej, sztuczna inteligencja znalazła swoje zastosowanie również w sektorze edukacji. Istnieją plany aby wykorzystać ją w przyszłości do analizy ocen studentów i ich postępów w nauce, a także do kontroli aktywności studentów podczas zajęć, ich śladu cyfrowego i uczestnictwa w życiu uniwersyteckim.
⇒ CZYTAJ RÓWNIEŻ: Olech: Polska ustawa antyterrorystyczna w dobie współczesnych zagrożeń ⇐
Podobnie jak inne państwa, Rosja od pewnego czasu dąży do rozwoju sztucznej inteligencji także dla celów wojskowych. Jak stwierdził Władimir Putin, sztuczna inteligencja będzie miała większą wartość dla bezpieczeństwa niż głowice jądrowe35. Z kolei rosyjskie Ministerstwo Obrony wielokrotnie dało do zrozumienia, że wojsko rosyjskie posiada już szeroką gamę uzbrojenia opartego na technologii SI, np. drony (które prawdopodobnie zostały użyte podczas agresji na Ukrainę) czy roboty podwodne36. W 2018 roku Putin ujawnił też, że Rosja zbudowała bezzałogową łódź podwodną, zdolną do przenoszenia broni jądrowej37. Szacuje się, że zostanie ona wprowadzona do służby do 2027 roku.
Co jednak ciekawe, pomimo wszystkich projektów związanych z rozwojem SI realizowanych w Rosji, wydatki Kremla w tym zakresie nie dorównują inwestycjom innych mocarstw konkurujących z Rosją w wyścigu o dominację w rozwoju sztucznej inteligencji, potencjalnie pozostawiając ją, póki co, za USA i Chinami.
Rodzi się także pytanie, kiedy do globalnego wyścigu na rzecz rozwoju sztucznej inteligencji włączy się Polska. Wydaje się, że istnieją dwie możliwości. Stany Zjednoczone zaoferują Polsce program partnerski, co jest bardzo życzeniowe i raczej mało prawdopodobne albo prywatny inwestor zza granicy dostrzeże talent i potencjał na polskim rynku, co pozwoli nam włączać się powoli do rywalizacji, będąc gdzieś w środku światowego peletonu rozwoju technologicznego.
*Artykuł jest częścią rozważań, które zaprezentowano w raporcie pt. Technologia i terroryzm: sztuczna inteligencja w dobie zagrożeń terrorystycznych, Instytut Nowej Europy, Warszawa 2020.
Artykuł został pierwotnie opublikowany w kwartalniku “Myśl Suwerenna. Przegląd Spraw Publicznych” nr 1(3)/2021.
[Grafika: pixabay.com]
_______________________________
1. McKinsey & Company, 2017. Artificial Intelligence And Southeast Asia’s Future. [online] s.4. Available at: https://www.mckinsey.com/~/media/mckinsey/featured%20insights/artificial%20intelligence/ai%20and%20se%20asia%20future/artificial-intelligence-and-southeast-asias-future.ashx, dostęp: 22.10.2020.
2. Sayler, K., 2020. Artificial Intelligence And National Security. [online] <https://fas.org/sgp/crs/natsec/R45178.pdf>, dostęp: 11.11.2020.
3. Moy, G., Shekh, S., Oxenham, M. and Ellis-Steinborner, S., 2020. Recent Advances In Artificial Intelligence And Their Impact On Defence. [online] <https://www.dst.defence.gov.au/sites/default/files/publications/documents/DST-Group-TR-3716_0.pdf>, dostęp 16.10.2020.
4. Builtin.com. n.d. What Is Artificial Intelligence? How Does AI Work?. [online] Available at: <https://builtin.com/artificial-intelligence>, dostęp: 1.11.2020.
5. Techjury.Net, 2019. Infographic: How AI Is Being Deployed Across Industries. [online] Robotics Business Review. <https://www.roboticsbusinessreview.com/ai/infographic-how-ai-is-being-deployed-across-industries/>, dostęp: 28.10.2020.
6. Bird, E., Fox-Skelly, J., Jenner, N., Larbey, R., Weitkamp, E. and Winfield, A. The Ethics Of Artificial Intelligence: Issues And Initiatives. Brussels 2020.
7. Renstrom, J., 2018. The UK Wants To Be The World Leader In Ethical AI. [online] Slate. https://slate.com/technology/2018/08/the-u-k-wants-to-be-the-world-leader-in-ethical-a-i.html, dostęp: 6.11.2020.
8. European Commission, n.d. 2020. Germany AI Strategy Report. [online] European Commission. <https://knowledge4policy.ec.europa.eu/ai-watch/germany-ai-strategy-report_en>, dostęp: 13.11.2020.
9. McKinsey & Company, 2017. Artificial Intelligence And Southeast Asia’s Future. [online] https://www.mckinsey.com/~/media/mckinsey/featured%20insights/artificial%20intelligence/ai%20and%20se%20asia%20future/artificial-intelligence-and-southeast-asias-future.ashx, dostęp: 22.10.2020.
10. Srivastava, S., 2020. State Of Artificial Intelligence In US: Becoming Technology Superpower. [online] Analytics Insight. https://www.analyticsinsight.net/state-of-artificial-intelligence-in-us-becoming-technology-superpower/, dostęp: 25.10.2020.
11. Center for Data Innovation, 2019. Who Is Winning The AI Race: China, The EU Or The United States?. [online] Who Is Winning the AI Race: China, the EU or the United States?. https://s3.amazonaws.com/www2.datainnovation.org/2019-china-eu-us-ai.pdf , dostęp: 2.10.2020.
12. Lopez, C., 2020. Where It Counts, U.S. Leads In Artificial Intelligence. [online] defense.gov. https://www.defense.gov/Explore/News/Article/article/2269200/where-it-counts-us-leads-in-artificial-intelligence/, dostęp: 25.10.2020.
13. Banerjee, I. and Sheenan, M., 2020. America’S Got AI Talent: US’ Big Lead In AI Research Is Built On Importing Researchers. [online] macropolo.org. Dostępne pod linkiem: https://macropolo.org/americas-got-ai-talent-us-big-lead-in-ai-research-is-built-on-importing-researchers/?rp=e, dostęp: 25.10.2020.
14. McKinsey & Company, 2017. Artificial Intelligence And Southeast Asia’s Future. [online]. https://www.mckinsey.com/~/media/mckinsey/featured%20insights/artificial%20intelligence/ai%20and%20se%20asia%20future/artificial-intelligence-and-southeast-asias-future.ashx, dostęp: 22.10.2020].
15. 2018. Summary Of The 2018 National Defense Strategy Of The United States Of America. s. 3.
16. Dostępne pod linkiem. https://dodcio.defense.gov/About-DoD-CIO/Organization/JAIC/, dostęp 22.10.2020.
17. The White House Office of Science and Technology Policy, 2020. American Artificial Intelligence Initiative: Year One Annual Reports. s. iii.
18. Deklaracja dostępna pod linkiem: https://www.state.gov/declaration-of-the-united-states-of-america-and-the-united-kingdom-of-great-britain-and-northern-ireland-on-cooperation-in-artificial-intelligence-research-and-development-a-shared-vision-for-driving/, dostęp: 20.10.2020.
19. Lopez, C., 2020. Where It Counts, U.S. Leads In Artificial Intelligence. [online] defense.gov. https://www.defense.gov/Explore/News/Article/article/2269200/where-it-counts-us-leads-in-artificial-intelligence/, dostęp: 25.10.2020.
20. Congressional Research Service, 2020. Artificial Intelligence And National Security. s. 13.
21. Congressional Research Service, 2020. Artificial Intelligence And National Security. s. 13.
22. Congressional Research Service, 2020. Artificial Intelligence And National Security. s. 14.
23. Defense Advanced Research Projects Agency, 2018. ACTUV “Sea Hunter” Prototype Transitions to Office of Naval Research for Further Development. [online] https://www.darpa.mil/news-events/2018-01-30a, dostęp: 18.10.2020.
24. McLeary, P., 2018. Pentagon’S Big AI Program, Maven, Already Hunts Data In Middle East, Africa. [online] <https://breakingdefense.com/2018/05/pentagons-big-ai-program-maven-already-hunts-data-in-middle-east-africa/>, dostęp: 11.11.2020.
25. Center for Data Innovation, 2019. Who Is Winning The AI Race: China, The EU Or The United States?. [online] Who Is Winning the AI Race: China, the EU or the United States?. https://s3.amazonaws.com/www2.datainnovation.org/2019-china-eu-us-ai.pdf, dostęp 2.10.2020.
26. Webster, G., Creemers, R., Triolo, P. and Kania, E., 2017. All Translation: China’s ‘New Generation Artificial Intelligence Development Plan’ (2017). [online] https://www.newamerica.org/cybersecurity-initiative/digichina/blog/full-translation-chinas-new-generation-artificial-intelligence-development-plan-2017/, dostęp: 1.10.2020.
27. The Verge, 2017. Putin Says The Nation That Leads In AI ‘Will Be The Ruler Of The World’. [online] https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world, dostęp: 5.10.2020.
28. Center for Data Innovation, 2019. Who Is Winning The AI Race: China, The EU Or The United States?. [online] Who Is Winning the AI Race: China, the EU or the United States?, s.19. Dostępne pod linkiem: https://s3.amazonaws.com/www2.datainnovation.org/2019-china-eu-us-ai.pdf, dostęp: 2.10.2020.
29. Koh, D., 2019. Ping An Good Doctor Launches Commercial Operation Of One-Minute Clinics In China. [online] https://www.mobihealthnews.com/news/asia-pacific/ping-good-doctor-launches-commercial-operation-one-minute-clinics-china, dostęp: 8.10.2020.
30. Shu, C., 2019. Leaked Chinese Government Documents Detail How Tech Is Used To Escalate The Persecution Of Uighurs. [online] https://techcrunch.com/2019/11/24/leaked-chinese-government-documents-detail-how-tech-is-used-to-escalate-the-persecution-of-uighurs/>, dostęp: 7.11.2020.
31. Bird, E., Fox-Skelly, J., Jenner, N., Larbey, R., Weitkamp, E. and Winfield, A. The Ethics Of Artificial Intelligence: Issues And Initiatives. Brussels 2020. s. 14.
32. Sukhankin, S., 2019. Russia Adopts National Strategy for Development of Artificial Intelligence. Eurasia Daily Monitor 16(163). [online] https://jamestown.org/program/russia-adopts-national-strategy-for-development-of-artificial-intelligence/, dostęp: 18.10.2020.
33. Министерство цифрового развития связи и массовых коммуникаций Российской Федерации, 2020. Цифровая экономика РФ. [online] https://digital.gov.ru/ru/activity/directions/858, dostęp; 25.11.2020.
34. Коновалова, Н. 2019. Беспилотная «Ласточка». На железнодорожном салоне в Щербинке показали уникальную технологию. [online] https://spbvedomosti.ru/news/financy/bespilotnaya-lastochka-na-zheleznodorozhnom-salone-v-shcherbinke-pokazali-unikalnuyu-tekhnologiyu/, dostęp: 20.10.2020.
35. IZ., 2019, Путин сравнил преимущества искусственного интеллекта и ядерного оружия. [online] https://iz.ru/928464/2019-10-03/putin-sravnil-preimushchestva-iskusstvennogo-intellekta-i-iadernogo-oruzhiia, dostęp: 12.11.2020.
36. Савчук, T., 2020. Пентагон занепокоєний використанням Росією штучного інтелекту у військовій сфері. Ось чому [online] https://www.radiosvoboda.org/a/pentagon-zanepokoyenyy-vykorystannyam-rosiyeyu-shtuxhnogo-intelektu-u-viyskoviy-sferi/30841807.html, dostęp: 12.11.2020.
37. RBC. Путин назвал срок спуска на воду подлодки с ядерным «Посейдоном». [online] https://www.rbc.ru/politics/20/02/2019/5c6d2c779a7947c9343f1028, dostęp: 13.11.2020.