Dvojaka uloga umjetne inteligencije u informacijskoj sigurnosti kao izvora prijetnje i odgovora na prijetnju

master's thesis

• Title (english): The dual role of artificial intelligence in information security as a source of threat and a response to threats
• Author: Snježana Crnogorac
• Mentor: Mario Spremić (mentor)
• Committee member: Ivan Strugar (predsjednik povjerenstva)
• Committee member: Božidar Jaković (član povjerenstva)
• Granter: University of Zagreb; Faculty of Economics and Business; (Department of Informatics); Zagreb
• Defense date and country: 2023-08-31, Croatia
• Scientific / art field, discipline and subdiscipline: TECHNICAL SCIENCES; Computing; Artificial Intelligence

Abstract

Predmet ovoga rada je razmatranje dvojake uloge umjetne inteligencije u informacijskoj sigurnosti. Radom se nastoji dokazati tezu da je upravo umjetna inteligencija tehnologija čije karakteristike podjednako predstavljaju izvor prijetnji, kao i odgovor na prijetnje.
Ciljevi rada:
C1. Identificirati karakteristike umjetne inteligencije koje je čine značajnim izvorom prijetnje i uspješnim odgovorom na prijetnju informacijskoj sigurnosti,
C2. Ispitati mogućnosti umjetne inteligencije da donese unaprjeđenja u točnosti pri detekciji prijetnji, skraćenju vremena istraživanja prijetnji, automatizaciji odgovora i implementaciji proaktivnih mehanizama zaštite,
C3. Ocijeniti mogućnosti umjetne inteligencije da se nosi s izazovima s kojima su suočeni stručnjaci iz područja informacijske sigurnosti (previše zadataka i podataka, ograničeno vrijeme i vještine),
C4. Donijeti zaključke o opravdanosti ulaganja u zaštitne mehanizme temeljene na umjetnoj inteligenciji te rizicima koji mogu proisteći iz neiskorištavanja potencijala umjetne inteligencije u ovome području.
U istraživanju se koriste kvalitativne metode istraživanja te se prikupljaju isključivo sekundarni podaci. Osnovna istraživačka metoda kojom će se ostvariti navedeni ciljevi rada jest analiza recentne znanstvene i stručne literature te sinteza rezultata te analize. Ostale metode dokazivanja su analiza dostupnih studija slučaja i analiza izvješća o učinkovitosti komercijalnih sigurnosnih rješenja. Analizom dostupne znanstvene i stručne literature zaključeno je da svi kibernetički napadi koji koriste AI, kao i svi obrambeni mehanizmi temeljeni na AI, dijele specifične karakteristike te su uočena preklapanja između karakteristika koje predstavljaju izvor prijetnji i karakteristika koje čine AI učinkovitim odgovorom na prijetnje. Mogućnosti umjetne inteligencije da donese unaprjeđenja u točnosti pri detekciji prijetnji, skraćenju vremena istraživanja prijetnji, automatizaciji odgovora i implementaciji proaktivnih mehanizama zaštite su značajne. Značajne su i mogućnosti AI da se nosi s izazovima s kojima su suočeni stručnjaci iz područja informacijske sigurnosti, s izuzetkom potpuno autonomnog donošenja sigurnosnih odluka. Dokazano je da ulaganja u AI u području sigurnosti organizacijama donose različite kvantificirane, ali i nekvantifirane koristi, no AI nije rješenje koje odgovara svim organizacijama. U kojoj mjeri AI unaprjeđuje informacijsku sigurnost ovisi o tome koliko efikasno organizacije upravljaju svojim AI rješenjima.

Abstract (english)

The aim of this paper is to consider the dual role of artificial intelligence in information security. The paper tries to prove the thesis that artificial intelligence is a technology whose characteristics are equally a source of threats, as well as a response to threats.
Objectives of the work:
C1. Identify the characteristics of artificial intelligence that make it a significant source of threat and a successful response to threats to information security,
C2. Explore the capabilities of artificial intelligence to deliver improvements in threat detection accuracy, reduce threat investigation time, automate responses, and implement proactive protection mechanisms,
C3. Assess the capabilities of artificial intelligence to deal with the challenges information security professionals are faced with (too many tasks and data, limited time and skills),
C4. Draw conclusions about the justification of investing in protective mechanisms based on artificial intelligence and the risks that may arise from not using its potential in cyber security.
Qualitative research methods are used and only secondary data is collected. The basic research method used to achieve the stated objectives is the analysis of recent scientific and professional literature and the synthesis of the obtained results. Other methods of research are the analysis of case studies and reports on the effectiveness of commercial security solutions. The analysis of the available scientific and professional literature concluded that all cyber attacks that use AI, as well as all defense mechanisms based on AI, share specific characteristics, and overlaps were observed between the characteristics that represent the source of threats and the characteristics that make AI an effective response to threats. The potential for artificial intelligence to deliver improvements in threat detection accuracy, reduce threat research time, automate responses, and implement proactive protection mechanisms is significant. The possibilities of AI to cope with the challenges faced by security experts, with the exception of fully autonomous security decision-making, are also significant. Investments in AI in the field of security have been proven to bring various quantified and unquantified benefits to organizations, but AI is not a solution that fits all organizations. The extent to which AI improves information security depends on how effectively organizations manage their AI solutions.

• Keywords: umjetna inteligencija; AI; strojno učenje; kibernetički napadi; obrambeni mehanizmi
• Keywords (english): artificial intelligence; AI; machine learning; cyber attacks; defense mechanisms
• Language: croatian
• URN:NBN: urn:nbn:hr:148:626442
• Study programme: Title: Electronic business in private and public sector; Study programme type: professional; Study level: specialist graduate; Academic / professional title: stručni/a specijalist/specijalistikca za elektroničko poslovanje u privatnom i javnom sektoru (stručni/a specijalist/specijalistikca za elektroničko poslovanje u privatnom i javnom sektoru)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Open access
• Created on: 2023-09-05 12:59:25