Risks Associated with the development of artificial intelligence

Abstract: in the implementation of many factors and measures, a certain destabilizing factor is the risk (a combination of the probability of an adverse event and its consequences). The introduction of AI into a specific structure is the most certain risk that can cause negative consequences.

Keywords: risks, riskiness, artificial intelligence, digitalization, development, robotization.

 

В настоящее время развитие определенного направления деятельности, связанного с использованием новых технологий и цифровизации общества, осуществляется быстрыми темпами. Большая часть организаций использует информационные технологии для достижения прогресса в своей деятельности и сталкивается с внешними и внутренними дестабилизирующими факторами, которыми являются риски применения искусственного интеллекта, вызывающие снижение использования данной инновационной технологии или уход с рынка конкретного хозяйствующего субъекта.

Искусственный Интеллект (далее - ИИ) – это комплекс технологических решений, позволяющих имитировать когнитивные функции человека и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Основными нормативно-правовыми актами, регулирующими реализацию искусственного интеллекта и связанных с ним технологиями, являются Указ Президента РФ "О развитии искусственного интеллекта в Российской Федерации" и Национальная стратегия развития ИИ до 2030 года [1].

В мире существуют спорные мнения среди экспертов по поводу влияния определенных элементов искусственного интеллекта на деятельность в условиях внедрения новых технологий и цифровизации. Внедрение ИИ имеет как положительные и отрицательные факторы [3].

 

Таблица 1. Положительные и отрицательные факторы ИИ

Положительные факторы ИИ	Отрицательные факторы ИИ
увеличение скорости развития технологий НИОКР; внедрение беспилотного транспорта в сферу услуг; создание нового сектора развития технологий и базы для оценки качества товаров оказания услуг; упрощение механизмов в сфере образования; снижение трудоемкости процессов.	Применение недостаточно контролируемых видов информационных технологий для доступа к конфиденциальной информации; дополнительное вложение средств и капитала; увеличение безработицы и экологических рисков; отсутствие гарантии в обеспечении стабильности деятельности; некачественные программные разработки.

 

Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение, процессы и сервисы по обработке данных и поиску решений.

Существует систематизация рисков ИИ, которые можно классифицировать на 4 группы (рисунок 1):

 

Рис. 1. Классификация рисков искусственного интеллекта

 

При рассмотрении данных, выявленных экспертами в области факторов рискованности, указанных выше, была выявлена статистика влияния на деятельность субъектов [4].

Рис. 2. Влияние ИИ на деятельность

 

При рассмотрении диаграмм (рисунок 2) стоит отметить, что наибольшее влияние на деятельность субъектов оказывает программная враждебность - программирование индивидуального искусственного интеллекта, которое направлено на реализацию негативных деяний со стороны военных и террористических организаций, и в некоторых случаях может быть провокатором начала войн и вооруженных конфликтов.

Случайный риск - факт ошибки при реализации определенных работ или видов деятельности по причине неверного учета факторов и информации. Он оказывает меньшее влияние на функционирование хозяйствующего субъекта, чем программная враждебность. Вероятность существенной опасности при данном риске минимальна и может быть исправлена. Далее по степени воздействия на деятельность фирмы расположен пассивный риск (снижение процента учета негативного влияния технологий на жизнедеятельность определенного человека). В литературе и научных публикациях отмечаются случаи, когда сам ИИ становился основной причиной возникновения несчастного случая. По прогнозам экспертов на период 2021-2023 годов влияние пассивного риска будет иметь исключительно положительную динамику и может стать основным риском деятельности. Наименьшим риском деятельности конкретной отрасли или хозяйствующему субъекту является риск непостижимости, который оказывается самым опасным по причине отсутствия контроля за перепрограммированием и совершенствованием ИИ.

Существует и иная классификация рисков в области внедрения искусственного интеллекта в деятельности (рисунок 3): автономное вооружение, воздействие на общественное мнение путем манипуляции, вмешательство в частную жизнь, дискриминация и несовпадение запрограммированных действий машин и человечества и иные [4].

 

Рис. 3. Влияние ИИ на деятельность отраслей

 

Перспективное внедрение робототехники в процесс ядерного перевооружения может стать фактором чрезмерного внедрения новых технологий и полной замены человека средствами искусственного интеллекта, что в перспективе может стать угрозой национальной безопасности. В некоторых случаях при неверном программировании происходит несовпадение интересов отдельных пользователей с предложениями машины (связано с автомобилями с механизмами искусственного интеллекта), что в некоторых случаях может вызвать аварии. В данном случае достижение реальной цели может быть достигнуто путем буквального разъяснения пути её достижения.

Стоит отметить, что риски искусственного интеллекта могут по-разному влиять на деятельность определенного государства и включать снижение влияния человека на перспективы развития ИИ, что в дальнейшем увеличит рискованность деятельности. Для снижения риска требуется использовать конкретные механизмы и на основе анализа выявлять наиболее результативные и перспективные, которые могут уменьшить число угроз и дестабилизирующих факторов.

В настоящее время для снижения рискованности деятельности в области информационных технологий требуется внедрить механизм управления рисками, который может реализовываться посредством следующих технологий: рассмотрение спектра решаемых задач, расчет требуемых затрат на реализацию проекта, определение правильности использования прямых инвестиций, анализ ошибок применения и дальнейшее изменение основных элементов ИИ, учет полных затрат на исполнение проекта [2]. Также для снижения рискованности деятельности необходимо соблюдение следующих требований: ясности, всеобъемлющего контроля, усиления конкретных мер контроля в зависимости от характера риска. Компании, которым недостаточно использования централизованной системы организации рисков, могут использовать вышеуказанные методы управления рисками ИИ для работы с применением надежных методов управления рисками.

 

Список литературы:

1. Указ Президента РФ от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года")

2. Мустафина А.Ф. Технология искусственного интеллекта в контексте бизнес-среды // Стратегия бизнеса- 2019-С.45-49

3. Насколько опасен Искусственный Интеллект. [Электронный ресурс] - Режим доступа: https://pctune.ru/iskusstvennyi-intellekt.html (дата обращения: 15.12.2020)

4. What is Artificial Intelligence? How does AI work, Types and Future of it? [Электронный ресурс] - Режим доступа: https://www.mygreatlearning.com/blog/what-is-artificial-intelligence/ (дата обращения: 17.12.2020)

 

Глезденёва А. Ю.,

Утробина П. А.

Научный руководитель: Трамова А. М.

РЭУ им. Г.В. Плеханова

 

БЛОКЧЕЙН КАК ИНСТРУМЕНТ ДЛЯ РАЗВИТИЯ
ИНФОРМАЦИОННЫХ СИСТЕМ

Аннотация: Технология блокчйен сейчас известна почти всем. На сегодняшний день существует множество проектов, связанных с использованием данной технологии в различных отраслях. В данной статье говорится о преимуществах применения блокчейна в функционировании информационных систем.

Ключевые слова: блокчейн, информационная система, информация, данные, технологии, инновации, эффективность.

BLOCKCHAIN AS A TOOL FOR THE DEVELOPMENT
OF INFORMATION SYSTEMS

Abstract: Blockchain technology is now known to almost everyone. Today there are many projects related to the use of this technology in various industries. This article talks about the advantages of using blockchain in the functioning of information systems.

Keywords: blockchain, information system, information, data, technology, innovation, efficiency.

 

В наше время блокчейн – не просто слово. Пожалуй, можно даже сказать, что каждый третий человек хотя бы раз слышал этот термин. Это известная и весьма многообещающая технология представляет собой цепь из блоков, выстроенную по определенным правилам. Технологию можно применять практически всюду. Это возможно из-за специфической архитектуры, поддерживающей безопасность и структуру, которая минимизирует риски со стороны мошенников. Хоть строение и отличается для разных доменов, но общая суть подходов едина. Можно сказать, что блокчейн – это распределенный реестр. Совершаемые транзакции практически неуязвимы для взлома благодаря хешированию и распределенным алгоритмам.

Блокчейн впервые появился в начале 2000-х годов просто как концепция. Идея была относительно простой и в первую очередь основывалась на идее о том, что, распределяя серию записей среди большой группы получателей, всегда будет доступный источник, с помощью которого можно будет установить целостность и точность набора записей. Технология развивалась неторопливо и только в 2009 году выпуск «Биткойн: одноранговая электронная денежная система» произвел революцию в блокчейне. Многие сомневались в безопасности технологии, но более амбициозные личности начали изучать эту идею. Вследствие чего блокчейн и приобрел свою популярность.

Информационные системы играют фундаментальную роль в современном обществе. Они, в широком смысле, относятся к оборудованию, цифровым приложениям, системам хранения данных и почти к любому другому аспекту технологической инфраструктуры. Блокчейн же становится все более важным при объединении аппаратного и программного обеспечения для формирования таких систем. В общем плане информационные системы полагаются на организацию инструментов, оборудования, программного обеспечения и людей, которые коллективно обрабатывают и распространяют информацию среди соответствующих сторон. Однако могут возникнуть проблемы, когда только определенные группы имеют право взаимодействовать с набором данных. Блокчейн же может помочь справиться с этой проблемой, поэтому применение этой технологии в информационных системах мы и рассмотрим. Целью данной статьи является выявление возможности применения технологии блокчейн в информационных системах. Среди задач были выделены основные: изучить предметную область, определить значения основных терминов, проанализировать перспективы использования технологии, сделать вывод об эффективности применения технологии.

Информационные системы обычно применяются во многих различных дисциплинах, и все связанные с ними приложения различаются. Поэтому практичность и полезность концепции блокчейна были исследованы во всех базовых отраслях. Архитектуры блокчейнов и их реализация в этих системах являются эффективным средством снижения расходов, будь то время, усилия или финансы, связанные с надлежащим управлением наборами данных. 

Подходы к информационным системам требуют понимания критически важных бизнес-процессов, а также человеческого поведения, чтобы обеспечить создание и использование наиболее эффективной платформы. Анализ этих отношений помогает понимать связи между пользователями и в итоге определяет, какие приложения или инструменты могут быть использоваться для передачи информации. Информационные системы могут быть реализованы невероятно разнообразными и уникальными способами, каждый из которых имеет свои преимущества и недостатки. Многие информационные системы используют реляционные базы данных в качестве основного решения для хранения активов. Базы данных используются в приложениях из-за их большой емкости хранения, функций ведения журнала и восстановления, а также скорости решения поисковых запросов. Однако есть и недостатки: в системах с одной базой данных количество информации может превышать объемы, которые может выдержать система. Это вызывает свои, снижение скорости работы и другие проблемы. Также в информационных системах применяются системы управления рабочим процессом, компоненты рабочего процесса, служащие для лучшего управления процессами, связанными с данными.

Инновации в информационных системах предоставляют средства, с помощью которых можно найти более эффективные решения проблем, что, в свою очередь, часто дает более прибыльный результат в долгосрочной перспективе. Компании ценят способность максимально повысить эффективность своих процессов. Таким образом, включение инновационных технологий, таких как блокчейн, в реализацию информационных систем и работа по использованию потенциальных преимуществ технологии – весьма востребованы. Блокчейн, будучи универсальным подходом к манипулированию данными, позволяет использовать его в любом количестве систем для самых разных целей. Он реализован в широком спектре утилит. Точно так же из-за разнообразного количества вариантов использования, которые информационные системы легко и регулярно контролируют, блокчейн дебютировал в большом количестве приложений и областей. Эта технология является невероятно новым и глубоким нововведением, заменяющим современную архитектуру на основе баз данных, общую для многих программных продуктов. Распределяя данные между несколькими отдельными объектами, технология блокчейна снижает риск критического сбоя, влияющего на всю систему. Также, благодаря разнообразному набору инструментов и взаимосвязанным требованиям к коммуникациям приложениям и инструментам на основе блокчейна, гораздо легче взаимодействовать с другими существующими системами.

Блокчейн прекрасно подходит для проверки данных и поддержания целостности транзакций, поскольку он децентрализован. Стоить отметить, что в настоящее время подходы, используемые в отрасли, не являются децентрализованными и полагаются на доверенную третью сторону, что влечет за собой негативные последствия. т.к. мы становимся уязвимы. Как раз поэтому будет разумнее использовать именно блокчейн, не беспокоясь об опасности со стороны третьей стороны.

Один из подходов к обеспечению целостности транзакций заключается в использовании концепции «умных контрактов», цель которых использовать блокчейн для проверки того, что две стороны подписали контракт. Содержание контракта обычно представлено в электронном формате, и обе стороны подписывают его цифровой подписью. Блокчейн проводит проверку законности подписей [1].

Зарубежные ученые в своих исследованиях рассказывают о том, что блокчейн в таком случае можно использовать при проведении выборов. В документе они представляют средства идентификации каждого избирателя с помощью цифровой подписи, которая при использовании для размещения голоса используется для проверки законности голосования. В документе утверждается, что за счет внедрения технологии блокчейн в избирательную систему доверие граждан к избирательной системе будет увеличено в связи с тем, что избирательная система будет децентрализована и больше не будет зависит от доверия централизованным партиям. Примечательно, что данный способ осуществления голосования будет актуален только тогда, когда изменения будут доведены до каждого гражданина в максимально простой форме [3].

Возможно, одним из самых неясных, но все же полезных применений технологии блокчейн, которое было исследовано, является применение технологии блокчейн для предотвращения мошенничества с одометрами. Предлагаемая система предотвращения мошенничества записывает данные о пробеге и GPS-данные автомобилей и сохраняет их в блокчейне, что сильно препятствует подделке одометров.

Кроме того, есть ещё много вариантов применения блокчейн, которые активно развиваются. Например, для защиты авторских прав на изображения, для поддержания целостности транзакций при совершении покупок на распределенном рынке больших данных, для защиты и поддержания целостности записей пациентов в медицинских учреждениях, для безопасности при управлении цепями поставок, для оказания услуг по уходу за престарелыми и многое другое [4-7].

Потенциал использования блокчейна безграничен и на данный момент реализован лишь частично. Многие сферы нуждаются в легко доступном инструменте для блокчейна, который позволит упростить реализацию блокчейна на более низком уровне. Создание инструментов и библиотек блокчейна с открытым исходным кодом позволит небольшим отраслям промышленности использовать эту технологию без помощи облачных или периферийных вычислений, предлагаемых коммерческими организациями. Таким образом, внедрение блокчейна в информационные системы поможет организациям в построении многих процессов.

 

Список литературы:

1. Abdelhamid M., Hassan G. Blockchain and smart contracts [Электронный ресурс] - Режим доступа: https://dl.acm.org/doi/abs/10.1145/3328833.3328857 (дата обращения: 17.02.2021).

2. Berdika D., Otoumb S., Schmidta N., Portera D., Jararweha Y. A Survey on Blockchain for Information Systems Management and Security [Электронный ресурс] - Режим доступа: https://www.sciencedirect.com/science/article/pii/S030645732030892X (дата обращения: 10.02.2021).

3. Fatrah A., El Kafhali S., Haqiq A., Salah K. Proof of Concept Blockchain-based Voting System. [Электронный ресурс] - Режим доступа: https://www.researchgate.net/publication/338450750_Proof_of_Concept_Blockchain-based_Voting_System (дата обращения: 14.02.2021).

4. Kassab M., DeFranco J., Malas T., Destefanis G., Graciano Neto V.V. Investigating quality requirements for blockchain-based healthcare systems [Электронный ресурс] - Режим доступа: https://ieeexplore.ieee.org/document/8823896 (дата обращения: 15.02.2021).

5. Nasonov D., Visheratin A., Boukhanovsky A. Blockchain-based transaction integrity in distributed big data marketplace Springer [Электронный ресурс] - Режим доступа: https://www.researchgate.net/publication/325702475_Blockchain-Based_Transaction_Integrity_in_Distributed_Big_Data_Marketplace (дата обращения: 16.02.2021).

6. Shi J., Yi D., Kuang J. A blockchain and sift based system for image copyright protection [Электронный ресурс] - Режим доступа: https://dl.acm.org/doi/10.1145/3376044.3376051 (дата обращения: 14.02.2021).

7. Rosa M., Barraca J., Rocha N. Logging integrity with blockchain structures [Электронный ресурс] - Режим доступа: https://www.researchgate.net/publication/331099581_Logging_Integrity_with_Blockchain_Structures (дата обращения: 15.02.2021).

 

Дудкина Т.С.,

Лобова О.А

Научный руководитель: Тихомирова Т.М.

РЭУ им. Г. В. Плеханова