УГРОЖАЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КОГНИТИВНОЙ БЕЗОПАСНОСТИ?

  • Александр Валентинович Федоров Государственный академический университет гуманитарных наук / Московский государственный технический университет им. Н.Э. Баумана https://orcid.org/0000-0002-0698-4480
Ключевые слова: образование, искусственный интеллект, когнитивная война, системы искусственного интеллекта

Аннотация

Что такое интеллект пока не знает никто. Однако есть множество людей, доверяющих «интеллекту искусственному» (ИИ). Мало того, ему доверяют не только себя, но и своих детей, видя в нем альтернативу живому преподавателю. Но говорит ли это о понимании людьми превосходства «искусственного интеллекта» над естественным? Или мы сталкивается с новым этапом поиска чудесного средства, которое решит все проблемы, в данном случае в образовании?  Или это дань детской увлеченности научной фантастикой с ее умными и добрыми роботами, живущими по законам Айзека Азимова.  Дискуссии о нужно­сти систем ИИ для технологического развития социума, материального производства и политики считаются завершенными, и более 30 стран и государствен­ных объединений в той или иной форме уже определили свои стратегии в области ИИ. Однако незавершенными остаются и множество вызванных ими дискуссий. Вашингтон «поддержание американского лидерства в сфере ИИ» провозгласил своим политическим интересом. В России ИИ признан одной из основных сквозных технологий цифровой экономики. Разработанный в ЕС «этичный ИИ» был в пер­вую очередь инкорпорирован в контролирующие индивида системы наблюдения и дискриминационного отбора, применение которых, что уже признано на всех уровнях, нарушает права человека, ограничивает демократические свободы личности и проти­воречит принципам либеральной демократии. Образование требует еще большего внимания, ошибки и потери здесь сравнимы с военными. Отчасти по этим причинам среди стратегических военных концепций будущего важное место занимают концепции когнитивных войн, основной тактической целью которых рассматривается контроль над образовательным процессом противника. При определенных условиях его инструментом может стать ИИ. В ряде стран использование ИИ в образовательном процессе уже ограничено, а по отдельным направлениям запрещено. Споры продолжаются. Их итоги мы увидим позже, но оце­нить подходы к проблеме, принимаемые решения и возникшие на этом пути препятствия можно уже сейчас.

Литература

Алексеева, И. (2001). Проблема интеллектуального суверенитета в информационном обществе. Информационное общество, 2, 5-9.

Арлазаров, В. (2024). Искусственный интеллект и История шахматной программы Каисса. Получено из: https://www.youtube.com/watch?v=1VGeze1AgzI

Ашманов, И. (2023). Игорь Ашманов про биометрию, повестки через Госуслуги, цифровой рубль и блокировку. Получено из: https://www.youtube.com/watch ?v=Em9B925Epk0

Ашманов, И. (2024). Что такое Искусственный интеллект - технологический пузырь или реальный прорыв? Получено из: https://www.youtube.com/watch?v= ElWgqzJu1-c

Батыров, Т. (2023). Бывший гендиректор OpenAI Сэм Альтман перешел в Microsof. Forbes.ru. Получено из: https://www.forbes.ru/tekhnologii/500768-byvsij-glava-openai-sem-al-tman-peresel-v-microsoft

Захарова, М. (2021). Из выступления на форуме о журналистике и свободе слова. Росконгресс. Получено из: https://roscongress.org/materials/yarkie-tsitaty-pmef-2021-uchastniki-foruma-o-zhurnalistike-i-svobode-slova/#a3475

Право на частную жизнь в мире Big Data (2021). Петербургский международный экономический форум. Росконгресс. Получено из: https://roscongress.org/ sessions/spief-2021-pravo-na-chastnuyu-zhizn-v-mire-big-data/discussion

Программа (2017). «Цифровая экономика Российской Федерации». Утверждена распоряжением Правительства Российской Федерации от 28 июля 2017 г. № 1632-р. Получено из: http://static.government.ru

Расторгуев, С. (2019). Мы проигрываем все информационные войны! REFNOD.RU. Получено из: https://www.youtube.com/watch?v=VQucJpg9C3Q

Тихонов, В. (2023). Образовательные учреждения блокируют доступ к нейросети ChatGPT. Что дальше? Российская газета. Получено из: https://rg.ru/2023/01/07 /obrazovatelnye-uchrezhdeniia-blokiruiut-dostup-k-nejroseti-chatgpt-chto-dalshe .html

Федоров, А. (2021а). Противоборство сфер силы в вопросах управления в информационном пространстве. Caspium Securitatis: журнал каспийской безопасности, 1(2), 11-34. https://doi.org/0.21672/2713-024X-2021-2-1-011-034

Федоров, А. (2021б). Европейский «этичный искусственный интеллект»: от инструмента экономики к политической проблеме. Южно-российский журнал социальных наук, 22(2), 87-103. https://doi.org/10.31429/26190567-22-2-87-103

Чернышова, Е. (2023). Первая западная страна заблокировала ChatGPT. РБК. Получено из: https://www.rbc.ru/technology_and_media/31/03/2023/6426da7e9a7 94757b5679bb7

Шалак, В. (2024). Искусственный интеллект VS языковые модели GPT. Доклад на семинаре ИФ РАН 14.02.2024. Получено из: https://www.youtube.com/watch?v= 5-7DCkMBHrE

A Definition of Artificial Intelligence: Main Capabilities and Scientific Disciplines (2019). Retrieved from https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Artificial Intelligence in Education (2024): Teachers’ Opinions on AI In the Classroom. Forbes Advisor. Retrieved from https://www.forbes.com/advisor/education/it-and-tech/artificial-intelligence-in-school

Bischoff, K. (2023) AI Tools in Hybrid Warfare - A Double-Edged Sword. Risk Intellegence. Retrieved from https://www.riskintelligence.eu/

Carlin, N. et al. (2021). Extracting Training Data from Large Language Models (PDF). USENIX Security Symposium. Retrieved from https://www.usenix.org/system/file s/sec21-carlini-extracting.pdf

Chan, K. (2023). Europe Reaches a Deal on the Word`s First Comprehensive AI Rules. The Washington Times. Retrieved from https://www.washingtontimes.com/news/ 2023/dec/8/europe-reaches-deal-on-comprehensive-ai-rules-worl/

Chat GPT 4 in Russian in Russia Online without VPN. Retrieved from https://chatgpt 4rus.ru/

EDPB & EDPS (2021) Call for Ban on Use of AI in Publicly Accessible Spaces, and Some Other Uses of AI that Can Lead to Unfair Discrimination. European Commission. Press Releases. EDPS. Retrieved from https://edps.europa.eu

GPT Tradebot. Retrieved from https://adequation.ru

GPT-4. OpenAI. Retrieved from https://openai.com

Howtouber (2023). OpenAI Unveils New Settings for ChatGPT. Howtouber. Retrieved from https://howtouber.top/

Information Operations, Cyberwarfare, and Cybersecurity (2009): Capabilities and Related Policy Issues. Washington, DC: Congressional Research Service, 2009. Retrieved from https://www.everycrsreport.com

Maintaining American Leadership in Artificial Intelligence. (2019) Executive Order 13859. February 11, 2019. Federal Registеr. Retrieved from https://www.federal register.gov

Manning, C. (2022). Human Language Understanding & Reasoning. Daedalus. Retrieved from https://www.amacad.org/

Merton, R. (1995). The Thomas Theorem and The Matthew Effect. Social Forces, 74, 2.

National Security Presidential Directive 54 (NSPD-54, 2008). The White House. Washington, DC. 8.01.2008 Retrieved from https://irp.fas.org/offdocs/nspd/nspd-54.pdf

O`Carroll, L. (2023). EU Agrees Tough Limits on Police Use of AI Biometric Surveillance. The Guardian. Retrieved from https://www.theguardian.com/world/20 23/dec/11/eu-agrees-tough-rules-on-police-use-of-ai-biometric-surveillance-ban

Presidential Policy Directive 20 (PPD-20, 2012). The Guardian. Retrieved from https://www.theguardian.com

Pros and Cons of AI in the Education Sector (2024). Senses Medium. Retrieved from https://medium.com/@senseselec/pros-and-cons-of-ai-in-the-education-sector-12bd 4e8f886b

Thiele, R. (2020). Hybrid CoE Working Paper 6: Artificial Intelligence – A key enabler of hybrid warfare. The European Centre of Excellence for Countering Hybrid Threats. P. 6 Retrieved from https://www.hybridcoe.fi/wp-content/uploads/2020/07/WP-6_2020_rgb-1.pdf
Опубликован
2024-10-01
Как цитировать
Федоров, А. (2024). УГРОЖАЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КОГНИТИВНОЙ БЕЗОПАСНОСТИ?. Caspium Securitatis: журнал каспийской безопасности, 4(3), 21-36. извлечено от https://caspiumsecuritatis.ru/index.php/csj/article/view/133
Выпуск
Том 4 № 3 (2024): Caspium Securitatis: журнал каспийской безопасности
Раздел
Теоретические проблемы безопасности

Copyright (c) 2024 Александр Валентинович Федоров

Лицензия Creative Commons

Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.

  1. Автор (Соавторы) с момента вступления настоящего Договора в силу предоставляет Издателю на безвозмездной основе, бессрочно, исключительные права на использование созданного Автором (Соавторами) научного произведения, с названием «________________», далее - Статьи, одобренной и принятой к опубликованию в пределах, предусмотренных настоящим Договором, без сохранения за Автором (Соавторами) права передачи аналогичных прав другим лицам (исключительная лицензия). Издатель с момента подписания Договора обладает исключительным правом на Статью, является правообладателем, вправе использовать Статью по своему усмотрению любым не противоречащим закону способом. Издатель может распоряжаться исключительным правом на Статью. Издатель может по своему усмотрению разрешать или запрещать другим лицам использование Статьи. Отсутствие запрета не считается согласием (разрешением).
  2. В соответствии с п. 2 ст. 1270 ГК РФ и настоящим Договором под использованием Статьи понимается:
    • Воспроизведение Статьи или ее отдельной части, то есть изготовление или запись одного и более экземпляра произведения или его части в любой материальной форме, в том числе в форме звуко- или видеозаписи, в том числе на бумажном и электронном носителе, в память ЭВМ, в журналах, сети Интернет и/или базах данных в любой материальной или электронной форме, по усмотрению Издателя;
    • Распространение Статьи или ее отдельной части в составе Журнала, базах данных Издателя, сети Интернет, материальных и электронных носителях, по усмотрению Издателя, или в виде самостоятельного произведения по всему миру путем продажи или иного отчуждения оригинала Статьи или ее экземпляров;
    • Доведение Статьи до всеобщего сведения таким образом, что любое лицо может получить доступ к Статье из любого места и в любое время по собственному выбору (доведение до всеобщего сведения, в т.ч. через Интернет);
    • Выдача разрешений на использование Статьи и ее отдельных материалов и прав на Статью (сублицензия), полученных по настоящему Договору, третьим лицам, без уведомления Авторов об этом.
    • Перевод или другая переработка Статьи, внесение изменений, сокращений и дополнений в Статью, снабжение Статьи при использовании иллюстрациями и пояснениями, если это вызвано необходимостью (исправление ошибок, уточнение или дополнение фактических сведений и т.п.), при условии, что этим не искажается замысел автора и не нарушается целостность восприятия произведения;
    • Обработка формы предоставления Статьи для ее использования во взаимодействии с компьютерными программами и системами (базами данных), сети Интернет, публикации и распространения в машиночитаемом формате и внедрения в системы поиска (базы данных), а так же посредством сети Интернет.
  3. Автор (Соавторы) гарантирует, что:
    • Он(они) проинформировал(и) других Соавторов относительно условий этого Договора и получил(и) согласие всех Соавторов на заключение настоящего Договора на условиях, предусмотренных Договором.
    • Статья является оригинальным произведением, представленным на рассмотрение только этому Журналу, и что Автор (Соавторы) не публиковал(и) Статью ранее в объеме более 50% в других печатных и/или электронных изданиях, кроме публикации препринта (рукописи) Статьи.
    • Статья не является плагиатом.
    • При создании Статьи или в связи с заключением Автором (Соавторами) настоящего Договора Автор (Соавторы) не допустит нарушения исключительных авторских и иных прав интеллектуальной собственности третьих лиц.
    • Статья содержит все предусмотренные действующим законодательством об авторском праве ссылки на цитируемых авторов и/или издания (материалы), что Автором (Соавторами) получены все необходимые разрешения на используемые в Статье результаты, факты и иные заимствованные материалы, правообладателем которых Автор (Соавторы) не является(ются);
    • Статья не содержит материалы, не подлежащие опубликованию в открытой печати, в соответствии с действующими законодательными актами РФ и ее опубликование и распространение не приведет к разглашению секретной (конфиденциальной) информации (включая государственную, коммерческую, или иную специально охраняемую законом тайну);
    • Статья не содержит публичные призывы к осуществлению террористической деятельности, или публично оправдывающие терроризм, другие экстремистские материалы, а также материалы, пропагандирующие порнографию, культ насилия и жестокости, оскорбительные, унижающие честь и достоинство как отдельного человека так и группы лиц по различным признакам, разжигающие национальную или религиозную вражду, и материалы, содержащие нецензурную брань;
    • Статья не содержит скрытых вставок и иных технических приемов и способов распространения информации, воздействующих на подсознание людей и (или) оказывающих вредное влияние на их здоровье, а равно распространение информации об общественном объединении или иной организации, включенных в опубликованный перечень общественных и религиозных объединений, иных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25 июля 2002 года № 114-ФЗ "О противодействии экстремистской деятельности" (далее - Федеральный закон "О противодействии экстремистской деятельности"), без указания на то, что соответствующее общественное объединение или иная организация ликвидированы или их деятельность запрещена;
    • Статья не содержит пропаганды различных верований и политических идеологий;
  • Статья не содержит сведений о способах, методах разработки, изготовления и использования, местах приобретения наркотических средств, психотропных веществ и их прекурсоров, пропаганда каких-либо преимуществ использования отдельных наркотических средств, психотропных веществ, их аналогов и прекурсоров, а также распространение иной информации, распространение которой запрещено федеральными законами; статья не содержит сведений, содержащих инструкции по самодельному изготовлению взрывчатых веществ и взрывных устройств;
  • Статья не содержит информации о несовершеннолетнем, пострадавшем в результате противоправных действий (бездействия), включая фамилии, имена, отчества, фото- и видеоизображения такого несовершеннолетнего, его родителей и иных законных представителей, дату рождения такого несовершеннолетнего, аудиозапись его голоса, место его жительства или место временного пребывания, место его учебы или работы, иную информацию, позволяющую прямо или косвенно установить личность такого несовершеннолетнего.
  1. Права и обязанности Автора (Соавторов)
    • Автор обязуется:
      • Представить рукопись Статьи в соответствии с Правилами для авторов, опубликованных на сайте Интернет-издания.
      • В процессе подготовки Статьи к опубликованию:
    • вносить в текст Статьи исправления, указанные рецензентами и принятые Главным редактором, и/или, при необходимости, по требованию Издателя доработать Статью;
    • читать корректуру(ы) Статьи в сроки, предусмотренные графиком выхода Интернет-издания;
    • вносить в корректуру Статьи только тот минимум правки, который связан с необходимостью исправления, допущенных в оригинале Статьи ошибок и/или внесения фактологических и конъюнктурных изменений.
      • Не публиковать Статью в объеме более 50% в других печатных и/или электронных изданиях на русском языке без согласия Издателя;
      • Не использовать в коммерческих, некоммерческих целях и в других изданиях без письменного согласия Издателя копию Статьи, подготовленную Издателем, в случае её передачи Автору;
      • В случае публикации препринта Статьи Автор обязан включить в препринт следующее предупреждение: «Это препринт Статьи (Название статьи, автор(ы)), принятой для публикации в журнал («Caspium Securitatis: журнал каспийской безопасности»)( http://caspiumsecuritatis.ru), (номер, год), ФГБОУ ВО «Астраханский государственный университет» и обеспечить электронную ссылку на сайты Издателя, имеющие URL http://caspiumsecuritatis.ru
      • Автор(Соавторы) также предоставляет(ют) Издателю право на хранение и обработку своих персональных данных.
    • Автор (Соавторы) вправе:
      • Пользоваться печатными или электронным препринтом неизданной рукописи Статьи в форме и содержании, принятыми Издателем для публикации в Интернет-издании. Такие препринты могут быть размещены в виде электронных файлов на веб-сайте Автора (Соавторов) или на защищенном внешнем веб-сайте работодателя Автора (Соавторов) Статьи, но не для коммерческих продаж или систематического внешнего распространения третьей стороной.
      • Безвозмездно фотокопировать или передавать коллегам копию напечатанной Статьи целиком или частично для их личного или профессионального использования, для продвижения академических или научных исследований или для информационных целей работодателя.
      • Право использовать материалы из опубликованной Статьи в написанной Автором (Соавторами) книге.
      • Право использовать отдельные рисунки или таблицы и отрывки текста из Статьи в собственных целях обучения или для включения их в другую работу, или для представления в электронном формате во внутренней (защищенной) компьютерной сети или на внешнем веб-сайте Автора (Соавторов) или его работодателя.
      • Право включать материалы Статьи в учебные сборники для использования в аудитории, для безвозмездного распространения материалов студентам Автора (Соавторов) или сохранять материалы в электронном формате на локальном сервере для доступа студентов как к части курса обучения, а также для внутренних обучающих программ в учреждении работодателя.
  1. Права и обязанности Издателя
    • Издатель обязуется:
      • За свой счет обеспечить рецензирование Статьи, научное редактирование, воспроизведение в электронной форме номера Интернет-издания со статьей Автора и его распространение в соответствии с условиями настоящего Договора.

5.2. Издатель имеет право:

  • При любом последующем разрешенном использовании Автором (Соавторами) (и/или иными лицами) Интернет-издания и/или Статьи (в том числе любой ее отдельной части, фрагмента), требовать от указанных лиц указания ссылки на Интернет-издание, Издателя или иного правообладателя Интернет-издания, Автора (Соавторов) или иных обладателей авторских прав, название Статьи, номер выпуска Интернет-издания и год опубликования, указанных в Интернет-издании.
  • Размещать в СМИ и других информационных источниках предварительную и/или рекламную информацию о предстоящей публикации Статьи.
  • Устанавливать и изменять правила (условия) приема и опубликования материалов Интернет-издания. Главному редактору Интернет-издания принадлежит исключительное право отбора и/или отклонения материалов, направляемых Главному редактору Интернет-издания с целью их опубликования. Рукопись (материальный носитель), направляемая Автором (Соавторами) в редакцию Интернет-издания, возврату не подлежит. Редакция Интернет-издания в переписку по вопросам отклонения Статьи Главным редактором Интернет-издания не вступает.
  1. Ответственность сторон.
    • Ответственность за содержание Статьи и соблюдение ограничений, установленных законом о средствах массовой информации и другими законодательными актами РФ возлагается на Автора (Соавторов). Автор (Соавторы) несет ответственность за каждый случай Использования в статье информации в целях совершения уголовно наказуемых деяний, за разглашение сведений, составляющих государственную, коммерческую, или иную специально охраняемую законом тайну, за распространение материалов, содержащих публичные призывы к осуществлению террористической деятельности, или публично оправдывающих терроризм, других экстремистских материалов, оскорбительных, унижающих честь и достоинство как отдельного человека так и группы лиц по различным признакам, разжигающих национальную или религиозную вражду, а также материалов, пропагандирующих порнографию, культ насилия и жестокости, и материалов, содержащих нецензурную брань.
    • Автор (Соавторы) несет ответственность за противоправное использование в Статье скрытых вставок и иных технических приемов и способов распространения информации, воздействующих на подсознание людей и (или) оказывающих вредное влияние на их здоровье, а равно распространение информации об общественном объединении или иной организации, включенных в опубликованный перечень общественных и религиозных объединений, иных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом года "О противодействии экстремистской деятельности" без указания на то, что соответствующее общественное объединение или иная организация ликвидированы или их деятельность запрещена;
    • Автор (Соавторы) несет ответственность за пропаганду в Статье различных верований и политических идеологий;
    • Автор (Соавторы) несет ответственность за обеспечение конфиденциальности информации при использовании в Статье сведений и их источников, предоставленных с условием сохранения их в тайне, а также соблюдение иных требований законодательства об обеспечении конфиденциальности информации.
    • Автор (Соавторы) несет ответственность за нарушением исключительных авторских и иных прав интеллектуальной собственности третьих лиц при создании Статьи, или в связи с заключением Автором (Соавторами) настоящего Договора.
    • Автор (Соавторы) отвечает по претензиям и искам (в том числе о взыскании убытков и возмещении морального вреда, компенсаций за нарушение авторских прав), связанным с созданием Статей, и материалов, использованных при создании Статей.
  2. Другие условия Договора
    • Настоящий Договор вступает в силу, в случае и с момента вынесения решения о принятии Статьи к опубликованию и действует в течение срока, предусмотренного в п. 1 настоящего Договора. Если Статья не принимается к публикации или Автор (Соавторы) на стадии принятия решения в письменной форме отозвал(и) рукопись, настоящий Договор не вступает (утрачивает) в силу.
    • В соответствии со ст. 1269 ГК РФ Автор (Соавторы) имеет право отказаться в письменном виде от ранее принятого решения об обнародовании (воспроизведении) Статьи (право на отзыв) при условии возмещения Издателю причиненных таким решением убытков. Если Статья опубликована, Автор (Соавторы) также обязан публично оповестить о ее отзыве.
    • В случае предъявления к Издателю требований, связанных с нарушением исключительных авторских и иных прав интеллектуальной собственности третьих лиц при создании Статьи, или в связи с заключением Автором (Соавторами) настоящего Договора, Автор обязуется:
      • Немедленно, после получения уведомления Издателя, принять меры к урегулированию споров с третьими лицами, при необходимости вступить в судебный процесс на стороне Издателя и предпринять все зависящие от него действия с целью исключения Издателя из числа ответчиков;
      • Возместить Издателю понесенные судебные расходы, расходы и убытки, вызванные применением мер обеспечения иска и исполнения судебного решения, и выплаченные третьему лицу суммы за нарушение исключительных авторских и иных прав интеллектуальной собственности, а также иные убытки, понесенные Издателем в связи с несоблюдением Автором (Соавторами) гарантий, предоставленных ими по настоящему Договору.
    • Стороны договорились, что в соответствии со ст. 160 ГК РФ, допускают и признают воспроизведение текста настоящего Договора и подписей Сторон на настоящем Договоре и иных документах, связанных с его заключением, с помощью использования средств механического, электронного или иного копирования собственноручной подписи и текста Договора, которые будут иметь такую же силу, как подлинная подпись Стороны или оригинальный документ. Факсимильные (электронные) копии документов действительны и имеют равную юридическую силу наряду с подлинными.
    • В соответствии со ст. 428 ГК РФ, настоящий Договор является договором присоединения (офертой), условия которого определяются Издателем, и может быть подписан другой стороной не иначе как путем присоединения к настоящему Договору в целом. Направление Автором (Соавторами) рукописи, или электронной версии Статьи для опубликования в Журнале, считается акцептом, т.е. согласием Авторов (Соавторов) на опубликование Статьи в соответствии с условиями настоящего Договора.
    • Издатель имеет право расторгнуть договор в одностороннем порядке без объяснения причин и письменного уведомления.