Sztuczna

inteligencja

i prawo

Artificial

Intelligence

and Law

SZKOŁA GŁÓWNA MIKOŁAJA KOPERNIKA

PRACE KOLEGIUM NAUK PRAWNYCH W LUBLINIE

T O M I

rada naukowa serii:

przewodniczący

Prof. Fabrizio Giulimondi, Szkoła Główna Mikołaja Kopernika, Polska zastępca Przewodniczącego

Prof. Paweł Lewandowski, Szkoła Główna Mikołaja Kopernika, Polska sekretarz

Prof. Michaela Moravčíková, Szkoła Główna Mikołaja Kopernika, Polska członkowie

Prof. Carlos A. Casanova, University of Florida, USA, Prof. Jesús Bogarín Díaz, Universidad de Huelva, Hiszpania Prof. Alona Dutko, Lviv State University of Internal Affairs, Ukraina Prof. David Forte, Cleveland Public University, USA Prof. Adrián Jalč, Trnavská univerzita v Trnave, Słowacja Prof. Jary Méndez Maddaleno, Universidad del Istmo, Gwatemala Prof. Raúl Madrid, Pontificia Universidad Católica de Chile, Chile Prof. Martha Miranda Novoa, Universidad de La Sabana, Kolumbia Prof. Damian Němec, Univerzita Palackého v Olomouci, Czechy Prof. Gennaro Terracciano, Università degli Studi di Roma “Foro Italico”, Włochy Prof. Alejandro Torres Gutiérrez, Universidad Pública de Navarra, Hiszpania

SZTUCZNA

INTELIGENCJA

I PRAWO

Artificial

Intelligence

and Law

Redakcja

FABRIZIO GIULIMONDI

PAWEŁ LEWANDOWSKI

WARSZAWA 2024

Recenzenci tomu

Prof. Alona Dutko, Lwowski Państwowy Uniwersytet Spraw Wewnętrznych, Ukraina Prof. Alejandro Torres Gutierrez, Universidad Pública de Navarra, Hiszpania Korekta

Bogusława Domian-Kruszewska

Skład

Dawid Iwanowski

Projekt okładki

Grzegorz Piwnicki

© Copyright by Szkoła Główna Mikołaja Kopernika

Warszawa 2024

ISBN 978-83-972529-0-5

Stowarzyszenie Absolwentów i Przyjaciół

Wydziału Prawa Katolickiego Uniwersytetu Lubelskiego ISBN 978-83-971600-5-7

Wydawca

Wydawnictwo Naukowe Szkoły Głównej Mikołaja Kopernika ul. Nowogrodzka 47a, 00-695 Warszawa

oraz

Stowarzyszenie Absolwentów i Przyjaciół

Wydziału Prawa Katolickiego Uniwersytetu Lubelskiego Al. Racławickie 14, c-742, 20-950 Lublin

tel./fax 81 445-37-42

e-mail: wydawnictwo.sawp@gmail.com; http://sawp.org.pl Druk

Drukarnia Wydawnicza im. W.L. Anczyca Spółka Akcyjna ul. Nad Drwiną 10, 30-741 Kraków

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Spis treści

Wstęp .........................................................................................................................................................................................

7

Introduction .......................................................................................................................................................................

9

Fabrizio Giulimondi

Intelligenza artificiale e diritto: una breve riflessione

introduttiva .................................................................................................................................................. 11

Piotr Bilski, Jacek Olejnik

Zastosowania sztucznej inteligencji do przetwarzania danych

multimedialnych w praktyce .................................................................................................... 21

Janusz Chełchowski, Andrzej Niekurzak

Ryzyka dla bezpieczeństwa związane ze sztuczną inteligencją ..... 43

Artur Kotowski

Introduction to legal futurology – whether the future of law

and legal science can be explored? ................................................................................... 61

Mariusz Miąsko

Prawo w dobie rozwoju cyfrowej inteligencji ......................................................... 77

Anna Nieć-Mrzygłód

Innowacyjne metody planowania i realizacji audytów

(prawnych) w nowoczesnych przedsiębiorstwach z użyciem

sztucznej inteligencji .......................................................................................................................... 105

6

Spis treści

Rafał Stasikowski

Miejsce postępu technicznego wśród determinant

wyznaczających funkcje administracji publicznej

w jej dziejach ............................................................................................................................................... 121

Gennaro Terracciano

L’esercizio della funzione amministrativa nell’era

dell’Intelligenza Artificiale predittiva e generativa: principi

della fiducia e del risultato e prospettive giustiziali .................................... 151

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Wprowadzenie

Szanowni Państwo Czytelnicy!

Z nieukrywaną radością oddaję w Państwa ręce pierwszą monografię nauko-wą stanowiącą dorobek Kolegium Nauk Prawnych Szkoły Głównej Mikołaja Kopernika w ramach dedykowanej serii Prace Kolegium Nauk Prawnych w Lublinie. Stanowi ona zbiór artykułów – przepracowanych i poszerzonych, uprzednio wygłoszonych w formie referatów w trakcie panelu pt. Sztuczna inteligencja i prawo, który odbył się 9 kwietnia 2024 r. w pierwszym dniu Kongresu Futurologicznego zorganizowanego przez SGMK.

Wydawnictwo zawiera osiem artykułów naukowych koncentrujących się wokół problematyki sztucznej inteligencji, w szczególności aspektów prawnych związanych z jej implementowaniem do kolejnych dziedzin życia społecznego i skutecznym funkcjonowaniem, możliwości zastosowania sztucznej inteligencji w obszarach rezerwowanych zawodom prawniczym, czy regulacji w obszarze bezpieczeństwa cyfrowego.

Autorzy opublikowanych artykułów reprezentują sześć ośrodków naukowych, w tym jeden zagraniczny: Università degli Studi di Roma „Foro Italico”, Szkołę Główną Mikołaja Kopernika, Uniwersytet Kardynała Stefana Wyszyń-skiego, Politechnikę Warszawską, Akademię Policji w Szczytnie oraz Uczelnię Metropolitalną w Katowicach.

8

Wprowadzenie

Dziękuję Autorom, Redaktorom, Recenzentom wydawniczym oraz Radzie Naukowej nowo utworzonej serii monograficznej za trud przygotowania tego wydawnictwa.

Czytelników zaś zapraszam do owocnej lektury.

Paweł Lewandowski

Prodziekan Kolegium Nauk Prawnych SGMK

https://orcid.org/0000-0003-4543-4382

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Introduction

Dear Readers!

It gives me genuine pleasure to offer you a scholarly monograph reflecting the work of the College of Legal Sciences of Nicolaus Copernicus Superior School, which is the first in the dedicated series Works of the College of Legal Sciences in Lublin. It contains reworked and extended versions of papers presented during the panel Artificial Intelligence and Law, held on 9 April 2024, the first day of the Futurological Congress organised by the School.

The publication features eight articles focusing on AI issues, especially the legal aspects of its implementation in more and more spheres of social life and its effective operation, the possibilities of using AI in areas reserved for legal professions, or digital security regulations.

The Authors represent six academic centres, including one from outside Poland: Università degli Studi di Roma “Foro Italico”, Nicolaus Copernicus Superior School, Cardinal Stefan Wyszyński University in Warsaw, Warsaw University of Technology, the Police Academy in Szczytno, and the Metropoli-tan University in Katowice.

10

Introduction

My thanks go to the Authors, Editors, Reviewers, and the Advisory Board of the newly created monograph series for their hard work involved in preparing this publication.

I wish you rewarding reading!

Paweł Lewandowski

Vice-Dean of the SGMK College of Legal Sciences

https://orcid.org/0000-0003-4543-4382

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Fabrizio Giulimondi*

Intelligenza artificiale e diritto:

una breve riflessione introduttiva

Abstract

L’Intelligenza Artificiale è entrata a gamba tesa nelle varie articolazioni esistenziali, conoscitive, tecniche e scientifiche dell’Universo umano, da coinvolgere inevitabilmente anche il diritto. È necessario, pertanto, aprire un dibattito di ampio respiro sul tema, necessariamente interdisciplinare.

Il diritto ne è certamente il protagonista, ma esistono altri convitati di pie-tra ad esso correlati da ascoltare. Filosofi, linguisti, sociologi e antropologi necessitano di essere cooptati in questa disamina, unitamente a giuristi e appartenenti al mondo forense e magistratuale. L’I.A. non sta cambian-do e non cambierà solo la superficie del frutto, ma sta entrando ed entrerà nella sua polpa, rischiando di mettere a repentaglio l’uso compiuto dell’intelligenza “naturale” della persona. Una riflessione tecnico-giuridica e di ordine morale è doverosa compierla.

Keywords

Intelligenza Artificiale, I.A., diritto, data colonialism, web, piattaforme web, regolamento europeo, legge, sentenza, provvedimento amministrativo.

* Prof. Fabrizio Giulimondi, Nicolaus Copernicus Superior School, Polonia, e-mail: fabrizio.giulimondi@sgmk.edu.pl; https://orcid.org/0009-0008-5242-6448.

12

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law L’irruzione della c.d. Intelligenza Artificiale nella dimensione dell’esistenza umana non può non indurre il mondo del diritto ad inter-rogarsi sulle sinergie che possono venirsi a comporre con la costruzione di questa nuova forma di ingegno.

Dopo l’energia nucleare ed il suo utilizzo bellico, probabilmente l’Intelligenza Artificiale è l’innovazione più dirompente che l’Umanità stia conoscendo, una innovazione da tenere sotto attenta osservazione per la sua potenziale notevole nocività, in ragione della propria capacità di potersi sostituire alle dinamiche intellettive degli uomini.

Questa Conferenza è uno dei primi tentativi di ragionamento sulle relazioni fra il diritto e l’Intelligenza Artificiale, come ulteriore filiazione della informatizzazione, telematizzazione e computeriz-zazione delle diversificate tipologie di procedimenti giuridici e dei loro prodotti finali: sentenze, leggi e provvedimenti amministrativi.

Credo che siano molti i settori ove diritto e filosofia si abbracci-no ma, certamente, il tema che ci siamo proposti di affrontare ne sopravanza parecchi, non escludendo dalla discussione sulla I.A.

anche la strumentazione gnoseologica linguistica, antropologica e sociologica, specie in un’epoca di logomachia.

Già la stessa locuzione “Intelligenza Artificiale” dovrebbe far entrare in allarme i cinque sensi: i suoi creatori– invero i primi ad esserne allarmati – stanno forgiando una intelligenza nuova, non proveniente dal sistema organico e funzionale del corpo umano ma originata aliunde. Il dubbio brechtiano che sorge nell’immediato volge lo sguardo alla possibilità, o probabilità, di una, se non tota-le, almeno parziale sostituzione della intelligenza “naturale” con quella artificiale. Forse potremmo trovarci alla pari delle ricerche scientifiche sulla clonazione umana: non la clonazione genetica di una persona ma la clonazione della sua capacità di intelligere.

Nell’epoca del post-umano clonazione genetica e intelligenza artificiale possono andare a braccetto.

Certamente occorre riflettere sui rapporti fra I.A. e diritto senza paraocchi, né pregiudizi o furie luddistiche, con metodo scientifico ma senza allontanarsi troppo da approfondimenti di radice etico-morale.

Fabrizio Giulimondi •  Intelligenza artificiale e diritto...

13

La macchina, anche nella sua forma algoritmica, può essere di grande supporto per il singolo come per la Comunità, parimenti all’aiuto fornito dai mezzi artificiali sin dalle loro prime invenzioni.

L’importante è effettuare una rigorosa analisi dei costi e dei benefici per capire quale sia il limite oltre il quale non bisogna porre il piede, per non giungere in territori troppo vicini alla costruzione di una nuova creatura, seppur priva di fisicità, non del tutto dissimile da quella immaginata dalla scrittrice britannica Mary Shelley.

L’assenza di confini geografici e temporali delle piattaforme ha determinato uno stravolgimento delle normali coordinate con le quali l’uomo valuta il mondo circostante.

Il web è oltre lo spazio ed il tempo e, di conseguenza, è oltre i confini statuali e delle stesse organizzazioni sovranazionali ed inter-nazionali.

L’intelligenza artificiale vede la sua sorgente nelle piattaforme che si nutrono del web, che vivono nel web e da esso traggono ogni tipo di informazione.

L’Intelligenza Artificiale vive e si rafforza grazie alla moltitu-dine di dati che nella Rete vengono immessi e vi galleggiano, mai estinguendosi: “Data (knowingly) provided and (unknowingly) exhaled by users form the oxygen and carbon dioxide feeding the platform ecosystem”1.

Le piattaforme sono alimentate da dati e governate da algoritmi.

Questo circuito permanente di immissione di dati, la loro pre-levazione e utilizzazione secondo logiche algoritmiche e produzione di “servizi” all’utente (che, al contempo, è anche il fornitore dei dati), deterritorializza, disperde e decentralizza l’azione umana. La realtà nella sua dimensione cosale diviene un oggetto impalpabile ed ectoplasmatico2, spossessando il fruitore dei servizi della realtà e sradicandolo dalla realtà.

1 J. Van Dijck, Seeing the forest for the trees: Visualizing platformization and its governance, in: “New media & society” 23 (9) 2021, 2804, https://doi.org/10.1177/1461

444820940293.

2 Si rimanda a: Byung-Chul Han, Le non cose. Come abbiamo smesso di vivere il reale, Torino 2022.

14

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Ciò che interessa l’Intelligenza Artificiale non è la persona nella sua interezza ma i molteplici dati di cui si compone. La persona non è più un unicum ma subisce una metamorfosi kafkiana mutando in un insieme di dati, che assumono una valenza economica e com-merciale. Il dato, immesso volontariamente o involontariamente nel web e da qui attinto, dopo un lavorio di interconnessione dovuto agli algoritmi, dà la scintilla primigenia all’Intelligenza Artificiale. Per giungere all’atto creativo della I.A. la persona è stata decomposta in una congerie di dati personali, monadi leibniziane aventi una propria peculiarità economica. I dati personali sono il nuovo, inesau-ribile petrolio. La persona – tutelata dagli incipit delle Costituzioni scaturite dal costituzionalismo europeo ed occidentale – si dissolve in una miriade di rivoli dotati di una propria autonomia giuridica ed una specifica protezione normativa.

La categorizzazione razzistica illuministica settecentesca dell’essere umano evolve in categorizzazione dell’individuo in base alle informazioni ed alle notizie raccolte nella Rete: sono queste molteplici informazioni e notizie a dare corpo alla Intelligenza Artificiale. L’algoritmo è la mano invisibile – mutuando il linguaggio dell’economista Adam Smith – che assembla tutto quanto rilevato sul web per fornire risposte a supporto dell’attività cerebrale.

Il diritto è esercizio razionale di giustizia. Il diritto somministra la giustizia e governa le popolazioni con atti espressione della in-tuizione creatrice dell’uomo. È il giudice a sentenziare e iurisdice-re, motivando la decisione. È il legislatore a normare esplicitando le ragioni sottese alla innovazione legislativa. È la Pubblica Amministrazione a gestire la res publica con i propri provvedimenti, ob-bligatoriamente – salvo talune eccezioni – motivati. La sentenza, la legge ed il provvedimento amministrativo sono i massimi enunciati del Potere pubblico. Il Diritto è esercizio di funzioni pubbliche, siano esse statali, regionali o comunali.

Nel diritto si manifesta l’archetipo dell’esercizio del potere dello Stato.

Risulta difficile conciliare quanto appena affermato con il governo oligopolistico del World Wide Web da parte di cinque aziende private globali come Amazon, Facebook, Apple, Google, Microsoft,

Fabrizio Giulimondi •  Intelligenza artificiale e diritto...

15

dotate di bilanci ben superiori a quelli di molti Stati. Piattaforme del tutto private e fuori da qualsiasi logica statale o internazionale e da qualsivoglia contesto ordinamentale giuridico e sociale: “The platform Web is made up of privately owned public spaces, largely governed by the commercial incentives of private actors rather than the collective good of the broader society”3; Van Dijck ne sottolinea lo stra-ordinario potere di incidere negativamente anche sui mercati e sulle democrazie: “Tech giants are moving away from the enclosed platform model toward building a data-based infrastructure that affords them to take over the running of cities, transportation, communication, retail, and so on”4.

Il quesito non può che essere giuridico e filosofico insieme: possono gli Atenei e, ancora di più, le Istituzioni anche di massimo livello, gli Apparati dello Stato, inclusi quelli militari, di Intelligence, di difesa nazionale e di sicurezza pubblica, affidarsi alla I.A.? Repe-tita iuvant: la fonte unica della I.A. è il web governato da cinque soggetti privati che esistono oltre la dimensione statale, sovrastatale ed internazionale, in una condizione di anomia, soggetti che, attingen-do ininterrottamente una immane quantità di “indicazioni” sugli individui fornite, volontariamente o fintamente volontariamente, dagli stessi o da altri, forgiano una nuova intelligenza a supporto di quella umana.

Un aspetto è rendere più agevole e veloce un processo/procedimento conferendogli veste telematica, ben altro è utilizzare uno strumento, come l’I.A., che non è solo un mezzo facilitatore formale, bensì “sostanza”, “potestas decidendi”, che può tendere a sostituire la volontà umana. L’argomentazione del giudice, del legislatore o del funzionario pubblico potrebbe in un futuro prossimo cedere innanzi all’entusiasmo artificiale. È già attuale l’utilizzo della Intelligenza Artificiale in funzione di polizia predittiva e di giustizia predittiva, funzioni che non possono che depotenziare – per poi un giorno magari sostituire – il primato decisionale dell’organo competente.

3 T. Owen, Introduction: Why Platform Governance?, “Centre for international governance innovation”, ottobre 2019, p. 28.

4 J. Van Dijck, op. cit., 2804.

16

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Lo Stato – luogo, forma ed espressione della sovranità nazionale – sarebbe, pertanto, sottoposto ad una Grundnorm ultronea alla Carta costituzionale, una “legge fondamentale” invisibile costituita dalle regole dettate dalle piattaforme web. Lo scontro fra Stati non sarà più politico ma tecno-digitale – specie a seguito della scoperta della I.A. – e, di conseguenza, il contrasto sarà solo simulatamente fra ordinamenti giuridici statuali, mentre sarà dissimulatamente fra Big Tech.

Nel tempo in cui si parla compulsivamente di diversità l’I.A. ne è il peggior nemico: “Without diversity, we can’t grow a rich, nutritious forest; without a variety of actors with distinct and respected societal roles, we cannot control its unbridled growth; and without a set of principles, we cannot govern its dynamics”5.

Suggestiva la raffigurazione effettuata da Van Dijck dell’I.A. come un albero le cui radici sono le infrastrutture, il tronco gli hardware e i rami i servizi direttamente o indirettamente forniti da privati, anche laddove siano ufficialmente distribuiti da enti pubblici: i “padroni” sono sempre le piattaforme globali private a cui i singoli ordinamenti – tramite legislazioni e giurisprudenza – cercano di imporre briglie giuridiche, seppur con immani difficoltà6.

Se da una parte vi sono tentativi di normazioni disciplinatrici della I.A., contestualmente è quest’ultima ad incidere, e grande-mente, sul diritto della concorrenza e alla riservatezza, sul diritto in tema di antitrust e di diritti fondamentali, nonché sul diritto d’autore. La norma diviene il punto di intersezione della retta delle discipline giuridiche incise dalla I.A. con la retta della governance della I.A.7.

5 J. Van Dijck, ult. op. cit., 2816.

6 Fra tutti, cfr. G.Taddei Elmi, S.Marchiafava, Sviluppi recenti in tema di Intelligenza Artificiale e diritto: una rassegna di legislazione, giurisprudenza e dottrina, in: “Rivista italiana informatica e diritto”, aprile 2023, 1 (2023); AA.VV., AI: profili giuridici Intelligenza artificiale: criticità emergenti e sfide per il giurista, in: “BioDiritto”, 3 (2019).

7 L’Unione europea è il primo soggetto istituzionale sul pianeta che ha disci-plinato partitamente l’Intelligenza Artificiale: è in via di definitiva adozione da parte del Parlamento europeo e del Consiglio, secondo la procedura legislativa ordinaria, la proposta di regolamento, presentata dalla Commissione europea il

Fabrizio Giulimondi •  Intelligenza artificiale e diritto...

17

Alla luce delle menzionate riflessioni, emerge il rischio del pas-saggio da una società dominata da regole pubbliche a comunità re-golamentate da prescrizioni private, fondate non più sulla informazione ma su una conoscenza algoritmica, scomparendo l’individuo uti socius per lasciare il posto al solo individuo uti privatus. Non più persone ma dati. Non più dati ma algoritmi. Non più intelligenza umana ma elaborazione surrogatoria del pensiero umano, la cui causa primaria si fonda sul rendere più celere la conoscenza e l’apprendimento, sulla comodità ed il minore sforzo con il massimo risultato.

Siffatto ragionamento deve necessariamente transitare attraverso la presa di coscienza di un nuovo tipo di colonialismo: il “data colonialism”8. La colonizzazione torna non più come forma di governo statale di territori altrui, ma come categoria gestionale impalpabile, una sorta di neocolonialismo virtuale – altrettanto incisivo e dan-noso, ma più subdolo – dell’essere umano, della sua mente e della sua potestas agendi, decidendi e creandi. Come si è spacciata la colonizzazione “vecchio conio” quale progetto di civilizzazione, altrettanto si sta facendo con il data colonialism che occupa le relazioni umane e le dinamiche cerebrali tramite la datification di ogni aspetto della esistenza umana, per mezzo della “appropriaton of human life through data”9, provocante una “continuously trackable life is a dispo-21 aprile 2021, recante un quadro giuridico in materia di Intelligenza Artificiale (esplicitamente denominato “legge sull’intelligenza artificiale”). In esito ai “tri-loghi” (negoziati inter-istituzionali tra i rappresentanti di Parlamento europeo, Consiglio e Commissione per concordare il testo da sottoporre all’approvazione dei due co-legislatori), il 9 dicembre 2023, al termine di una sessione negoziale di tre giorni, è stato raggiunto un accordo politico provvisorio, con l’obiettivo di approvare in via definitiva la nuova normativa entro la conclusione dell’attuale legislatura europea. L’accordo dovrà ora essere formalmente approvato dal Consiglio (a maggioranza qualificata) e dal Parlamento europeo (a maggioranza dei suoi componenti), al più tardi nella sessione di aprile. Il 2 febbraio scorso il Co-mitato dei rappresentanti permanenti degli Stati membri presso l’UE (COREPER), massimo organo preparatorio dei lavori del Consiglio, ha approvato all’unanimità il testo dell’accordo del 9 dicembre.

8 N. Couldry, U. A. Mejias, Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject, in: “Television & New Media”, 20 (4), 2019.

9 Ult. op. cit., p. 337.

18

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ssessed life”10. Siamo fatalmente in presenza di vite permanente-mente tracciate, con il costante rischio dell’annichilimento dello spazio privato, aziendale, statale e civico, minandosi sempre di più la distinzione fra Stato, mercato e società civile. Difficile separare gli interessi pubblici e, primariamente, statali, da quelli aziendali interconnessi con piattaforme fuori dallo spazio e del tempo.

Il diritto presuppone lo spazio ed il tempo, esigendo la loro esistenza per incidere sulla realtà dei cittadini. Se il tempo e lo spazio vengono rimossi trasformandosi in concetti eterei, il diritto viene meno, perde di consistenza, cessa la sua stessa ragione d’essere.

Qualunque ausilio ad una giustizia più celere e di qualità, il più possibile scevra da errori, è ovviamente auspicabile, ma necessita molta saggezza da parte di tutti, occorrendo trattare l’I.A. al pari della energia nucleare e, forse, in modo ancora più accurato. La giustizia, come accezione filosofica, il diritto, come sua applicazione concreta e contingente, ne siano argini insormontabili, e l’uomo ri-manga insostituibile nocchiero.

Bibliografia

AA.VV., Taxonomy of Risks posed by Language Models, ACM Conference on Fairness Accountability and Transparency 2022, 21–24.06.2022, Seoul, Republic of Korea.

AA.VV., AI: profili giuridici Intelligenza artificiale: criticità emergenti e sfide per il giurista, BioDiritto, 3 (2019).

Ciaralli C. A., Intelligenza artificiale, decisione politica e transizione am-bientale: sfide e prospettive per il costituzionalismo, in: “Federalismi” 15

(2023).

Couldry N., Mejias U.A., Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject, Television & New Media, in: “Sage Journal” 20

(4) 2019.

Han Byung-Chul, Le non cose. Come abbiamo smesso di vivere il reale, Torino 2022.

Owen T., Introduction: Why Platform Governance? , “Centre for international governance innovation”, ottobre 2019.

10 Ult. op. cit. p. 345.

Fabrizio Giulimondi •  Intelligenza artificiale e diritto...

19

Taddei Elmi G., Marchiafava S., Sviluppi recenti in tema di Intelligenza Artificiale e diritto: una rassegna di legislazione, giurisprudenza e dottrina, in:

“Rivista italiana di informatica e diritto” aprile 2023, 1 (2023).

Terracciano G., Automazione e processo amministrativo: una convivenza difficile? , Amministrativ@mente, 1 (2022).

Terracciano G., I.I.A. (intelligenza artificiale amministrativa) e sindacato giurisdizionale, Amministrativ@mente, 2 (2022).

Van Dijck J., Seeing the forest for the trees: Visualizing platformization and its governance, in: “New media & society”, 23(9) 2021. https://doi.

org/10.1177/1461444820940293.

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Piotr Bilski*, Jacek Olejnik**

Zastosowania sztucznej inteligencji

do przetwarzania danych multimedialnych

w praktyce

Abstrakt

W artykule przedstawiono rozważania na temat stosowalności nowoczesnych algorytmów sztucznej inteligencji w projektach badawczo-rozwojowych z fazą przygotowania do wdrożenia. Opisano wyzwania stojące przed zespołem projektowym implementującym metody uczenia głębokiego do analizy danych multimedialnych (w szczególności sekwencji wideo oraz danych dźwiękowych). Przedstawiono wymagania sprzętowe dla implementacji wybranych algorytmów mających na bieżąco przetwarzać nadchodzące dane. W szczególności skupiono się na rozwiązaniach scentralizowanych, wymagających stosunkowo skomplikowanych jednostek obliczeniowych. Przedstawiono standardowy stos programistyczny dla takiego systemu, obejmujący język programowania oraz niezbędne biblioteki. Na wybranym przykładzie pokazano konfigurację sprzętowo-

-programową systemu do inteligentnego monitoringu wizyjnego.

Słowa kluczowe

Uczenie głębokie, system rozproszony, analiza danych multimedialnych.

* Dr hab. inż. Piotr Bilski, Politechnika Warszawska, Polska, e-mail: piotr.bil-ski@pw.edu.pl; https://orcid.org/0000-0002-5463-9411.

** Mgr inż. Jacek Olejnik, JAS Technologie Sp. z o.o., Polska, e-mail: j.olejnik@

jastechnologie.pl; https://orcid.org/0009-0006-8077-1631.

22

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Wprowadzenie

Współczesne zastosowania sztucznej inteligencji dawno wykroczy-ły poza prace eksperymentalne i są obecnie powszechnie wdraża-ne komercyjnie. Ta dziedzina techniki ma istotny wymiar ekonomiczny, przyczyniając się do tworzenia nowych produktów, które następnie mogą być produktami nadającymi się do sprzedaży. Pomimo znaczących osiągnięć na tym polu, w ciągu ostatnich dwu-dziestu lat, samo zagadnienie budzi wciąż żywe zainteresowanie ze strony badaczy oraz pracowników uniwersytetów i politechnik.

Dotyczy to szczególnie najnowszych osiągnięć w zakresie algoryt-miki, wciąż nieustandaryzowanych, co oznacza, że można i należy proponować nowe rozwiązania do weryfikacji eksperymentalnej i uważnie śledzić ich rozwój. Do takiej grupy niewątpliwie zaliczają się metody uczenia głębokiego1, które zrewolucjonizowały sztuczną inteligencję pod koniec pierwszej dekady XXI w. Jest to technologia stosunkowo nowa, jednak intensywnie rozwijana. Jej popularność wynikaz wysokiej skuteczności i niezawodności w ściśle kontrolo-wanych warunkach. Jest ona również na tyle użyteczna, że standar-dowo proponuje się ją jako narzędzie do rozwiązywania kolejnych problemów, które wcześniej stanowiły barierę nie do pokonania.

Rozwiązania w zakresie sztucznej inteligencji, w ramach projektów naukowo-badawczych, które następnie mają charakteryzować się wysokim potencjałem komercjalizacji, napotykają na szereg wyzwań i trudności. Chodzi tu zarówno o dopasowanie konkretnych algorytmów do specyfiki rozwiązywania problemu, jak i wyzwania praktyczne, polegające m.in. na implementacji opracowanych rozwiązań na platformie programowo-sprzętowej. Rozwiązanie przedstawione na poziomie zadania badawczego nadal może być bardzo trudnym problemem z punktu widzenia produktu komercyjnego, który miałby być zaoferowanyna rynku.

W artykule przedstawiono analizę systemów sztucznej inteligencji, projektowanych oraz przygotowywanych do wdrożenia w ra-1 W. Zhang, T. Yao., S. Zhu, A. el Saddik, Deep Learning–Based Multimedia Analytics: A Review, „ACM Transactions Multimedia Computing Communications Applications” 15 (2019), wyd. 1s., art. 2, s. 26. https://doi.org/10.1145/3279952.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

23

mach rozwiązania komercyjnego. Omówione problemy, rozwiązania oraz wyzwania wynikają wprost z doświadczeń związanych z przy-gotowywaniem takich systemów przez firmę JAS Technologie, w ramach udziału w konsorcjach badawczo rozwojowych, realizujących projekty na szeroko rozumianym polu sztucznej inteligencji.

W szczególności chodzi o tematykę przetwarzania danych multimedialnych, które stanowią obecnie największe wyzwanie dla projektowanych systemów. Przegląd literatury wskazuje, iż duża liczba opracowywanych algorytmów ukierunkowana jest właśnie na przetwarzanie obrazów statycznych2, sekwencji wideo3 lub dźwięku4.

Przedstawione informacje poparte są przykładami konkretnych rozwiązań powstałych w ramach realizacji grantów badawczych:

• „Inteligentny system wspomagania decyzji oparty na algoryt-micznej analizie obrazu w działaniach służb wymiaru spra-wiedliwości” DOB-BIO10/16/02/2019.

Projekt finansowany przez Narodowe Centrum Badań i Rozwoju, realizowanyw obszarze obronności i bezpieczeństwa państwa, przez konsorcjum w składzie: Politechnika Warszawska (PW) – lider konsorcjum; JAS Technologie (JAS); Uniwersytet Przyrodniczo-Humanistyczny w Siedlcach (UPH). Koszt całkowity projektu: 6 311 438 PLN;

• “iBorderCTRL” 700626, H2020-BES-2014-2015/H2020-BES-2015.

Projekt finansowany przez Europejską Agencję Wykonaw-czą ds. Badań Naukowych Komisji Europejskiej, realizowany w ramach programu Horyzont 2020, przez konsorcjum w składzie: European Dynamics Luxembourg SA – lider konsorcjum, 2 S. Srivastava, A.V. Divekar, C. Anilkumar, Comparative analysis of deep learning image detection algorithms, „Journal of Big Data” 8, 66 (2021), https://doi.

org/10.1186/s40537-021-00434-w.

3 G. Ciaparrone, F. Luque Sánchez, S. Tabik, L. Troiano, R. Tagliaferri, F. Herrera, Deep learning in video multi-object tracking: A survey, „Neurocomputing” 381

(2020), s. 61–88. https://doi.org/10.1016/j.neucom.2019.11.023.

4 J. Li, W. Dai, F. Metze, S. Qu, S. Das , A comparison of Deep Learning methods for environmental sound detection, IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Institute of Electrical and Electronics Engineers, New Orleans 2017, s. 126–130. https://doi.org/10.1109/ICASSP.2017.7952131.

24

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Institute of Communication and Computer Systems (Greece), Stremble Ventures LTD (Cyprus), The Manchester Metropo-litan University (GB), ITTI sp. z o.o. (Poland), JAS Technologie (Poland), Everis Aeroespacial Y Defensa SL (Spain), BioSec Group Kft (Hungary), Gottfried Wilhelm Leibniz Universitaet Hannover (Germany) Orszagos Rendor-fokapitanysag (Hungary), TRAINOSE Metafores-Metaforikes Ypiresies Epivaton Kai FortiouAE (Greece), Latvian State Border Guard (Latvia). Koszt całkowity projektu: 4 501 877 Euro.

Układ treści jest następujący. W punkcie 2 przedstawiono specy-fikę zadań stawianych przez sztuczną inteligencję w zakresie analizy danych multimedialnych. Następnie zaprezentowano wyzwanie w postaci doboru odpowiedniej platformy sprzętowej, która będzie w stanie uruchamiać zaproponowane algorytmy w akceptowalnych warunkach środowiskowych, np. w trybie czasu rzeczywistego. Kolejno przedstawia obecnie stosowane techniki programistyczne służące do realizacji metod sztucznej inteligencji dopasowanych do wcześniej opisanych problemów. W punkcie 5 przedstawiono aspekt prawny przygotowywania tak stworzonego produktu do wdrożenia na rynku i uwzględnienie specyficznych praw autorskich w zakresie oprogramowania. Część implementacyjna obejmuje szczegóło-wy opis przykładowej architektury systemu, zdolnego do rozwiązywania konkretnego problemu z tematyki opisanej wcześniej. Tekst kończy podsumowanie oraz analiza potencjału zastosowanych rozwiązań i możliwości ich rozwoju.

Problemy do rozwiązania

W aktualnym międzynarodowym otoczeniu biznesowym, w branży hi-tech, istotne są rozwiązania przełomowe, pozwalające na osiąganie nowych funkcjonalności wcześniej niedostępnych. Z tego względu obecnie największą popularnością cieszą się systemy in-formacyjne wyposażone w moduły sztucznej inteligencji do przetwarzania danych multimedialnych. Wcześniej stosowane „trady-cyjne” algorytmy nie radziły sobie z takimi problemami w satysfak-

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

25

cjonujący sposób, głównie ze względu na zbyt dużą ilość danych do przetworzenia. Na szczególną uwagę zasługują obecnie architektury głębokich sieci neuronowych, które dzięki odwzorowaniu konkretnych funkcji ludzkiego mózgu są w stanie np. wykrywać obiekty w obrazie statycznym lub rozpoznawać wypowiadane do mikrofo-nu kwestie5. Przykładem są sieci splotowe (ang. Convolutional Neural Networks) naśladujące funkcjonowanie kory wzrokowej6. Umożliwiają one realizację szeregu zadań w ramach jednej (względnie prostej) struktury jednokierunkowej. Należy się spodziewać, że szczególnie atrakcyjne rozwiązania komercyjne wykorzystywać będą właśnie takie modele o złożoności niedostępnej wcześniej dla systemów komputerowych.

W działalności firmy wyróżnić można dwie rodziny rozwiązań opracowywanych w ramach projektów badawczo-rozwojowych, za-kończonych przygotowaniem produktu do wejścia na rynek. Pierwsze to przetwarzanie wielkoskalowe sekwencji wideo pochodzących z kamer IP, na zasadzie analogicznej do systemów monitoringu miejskiego. Specyfika rozwiązania przygotowanego w firmie polega na ograniczeniu zastosowania systemu inteligentnego monitoringu wizyjnego do przestrzeni zamkniętych, takich jak zakłady karne. O ile współczesne systemy tego typu są w pewnym stopniu wspomagane przez sztuczną inteligencję, w przypadku lokalizacji skupiającej dużą liczbę osób potencjalnie niebezpiecznych (a do takich należą więźniowie) wymusza specyficzne podejście do projektu. Jego celem jest nie tyle zastąpienie człowieka w wykrywaniu konkretnych scen w sekwencji wideo, ale wsparcie jego działania poprzez wskazanie/

/sugerowanie, na co powinien zwrócić uwagę. Dodatkowo, z powodu gwałtownego upowszechniania się technologii wideo (i co się z tym wiąże redukcji kosztów inwestycyjnych), obecnie problemem staje się potencjalnie duża liczba kamer, z których obraz powinien być 5 A. Mehrish, N. Majumder, R. Bharadwaj, R. Mihalcea, S. Poria, A review of deep learning techniques for speech processing, „Information Fusion” 99 (2023), art.

101869. https://doi.org/10.1016/j.inffus.2023.101869.

6 J. Gu, Z. Wang, J. Kuen, L. Ma, A. Shahroudy, B. Shuai, T. Liu, X. Wang, G. Wang, J. Cai, T. Chen, Recent advances in convolutional neural networks, „Pattern Recognition” 77 (2018), s. 354–377. https://doi.org/10.1016/j.patcog.2017.10.013.

26

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law analizowany jednocześnie. W związku z tym wydaje się wręcz ko-niecznością wsparcie ludzkiego operatora, nadzorującego ich działanie. Analizowanie przezeń obrazów z wielu kamer jednocześnie w czasie rzeczywistym, podczas zmiany (trwającej np. 8 godzin) stanowi wyzwanie. Doświadczenia związane z pracą funkcjonariuszy służby więziennej w zakładach karnych pokazują, że zadania osób obsługujących centrum monitorowania wiążą się z dużą odpowiedzialnością, a przez to są obciążające psychicznie. Z tego względu wprowadzenie systemu zdejmującego z nich część obowiązków poprzez wspomaganie automatyczne procesu wykrywania zdarzeń stanowiłoby istotne ułatwienie pracy. System wykrywania zdarzeń niepożądanych (takich jak: bójka, napaść na funkcjonariusza czy próba samobójcza) realizowany był przez firmę w ramach konsorcjum, którego liderem była Politechnika Warszawska. Efektem prac jest rozproszony inteligentny system analityczny o strukturze modułowej, umożliwiający wsparcie funkcjonariuszy służby więziennej podczas ich codziennej pracy w zakresie utrzymania porządku i bezpieczeństwa w zakładzie karnym.

Drugie zastosowanie nowoczesnych algorytmów sztucznej inteligencji związane jest z dynamicznie zmieniającymi się warunkami cywilizacyjnymi oraz odpowiedziami na kolejne wyzwania, które przynosi gwałtownie zmieniający się świat. Niedawna epidemia COVID 19 sprawiła, że sposób funkcjonowania przedsiębiorstw, ale również zwykłych obywateli musiały ulec diametralnej prze-mianie. Dotyczy to również służby zdrowia, która stanęła przed największym od dziesięcioleci wyzwaniem, tj. walką w skali całego świata z groźnym, śmiercionośnym wirusem o stosunkowo wysokiej zakaźności. Tutaj z kolei potrzebne jest wsparcie w procesie wywiadu lekarskiego, przy użyciu nowoczesnych technik informatycznych. Chodzi szczególnie o ułatwienie ekstrakcji semantycznej przebiegu rozmowy prowadzonej pomiędzy lekarzem a pacjentem, uwzględniając utrudnione warunki akustyczne, np. spowodowane przez konieczność noszenia maseczek, które mogą zniekształcać sygnał mowy. Z drugiej strony pandemia spowodowała znaczące rozpowszechnienie się kontaktów zdalnych, wliczając w to np.

teleporady. Jest to obecnie typowa metoda badania pacjentów nie

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

27

wymagających natychmiastowej hospitalizacji, a zatem również takich, których stan nie zagraża ich życiu. Prowadzenie wywiadu za pośrednictwem infrastruktury telekomunikacyjnej obarczone jest ryzykiem utrudnionego rozumienia poszczególnych słów kluczowych oraz wypowiadanych fraz, co może znacząco utrudnić jej analizę post factum i postawienie poprawnej diagnozy. W przypadku tego problemu zadanie polega na zaproponowaniu rozproszonego systemu informatycznego, wykorzystującego przetwarzanie na poziomie lokalnego serwera lub chmury obliczeniowej, którego zadaniem byłoby wykrywanie poszczególnych słów wypowiadanych przez uczestników rozmowy, grupowanie ich, a następnie wykonywanie dodatkowych operacji (takich jak automatyczne wypełnianie formularza czy propozycja diagnozy lub sposobu leczenia pacjenta).

Również w tym wypadku najbardziej intuicyjnym obecnie podejściem jest zastosowanie sieci głębokich, jednak tym razem w wer-sjach rekurencyjnych, tzn. wyposażonych w pętle sprzężenia zwrot-nego, co umożliwia przetwarzanie sekwencji (szeregów) czasowych.

Drugim zadaniem, również wykonywanym przez sieci głębokie jest przetwarzanie języka naturalnego (ang. Natural Language Processing). Oprócz wykrywania poszczególnych słów, konieczne jest również nadawanie im odpowiedniego znaczenia i kontekstu, co może wpływać na realizację procesu automatyzacji wspierania diagnozy.

Algorytmy sztucznej inteligencji wykorzystywane wcześniej (tzn.

20 lub 30 lat temu) umożliwiały w ograniczonym stopniu wykonywanie opisywanych zadań. Ich głównym niedostatkiem była stosunkowo niska dokładność oraz wysoki stopień skomplikowania, wymagany przy przetwarzaniu obrazu czy dźwięku. Standardo-wym podejściem stosowanym w analizie obrazu było (i w pewnym stopniu nadal jest) skalo-niezmiennicze przekształcenie cech (ang.

Scale Invariant Features Transform)7. Może być ono wykorzystane np. do wykrywania konkretnych obiektów lub ich fragmentów na obrazach niezależnie od pozycji kamery, czy sposobu uchwycenia 7 Y. Ke, R. Sukthankar, PCA-SIFT: a more distinctive representation for local image descriptors, Proceedings of the 2004 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, Institute of Electrical and Electronics Engineers, Washington 2004. https://doi: 10.1109/CVPR.2004.1315206.

28

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law przez nią sceny. Już w XXI w. dostrzeżono jednak poważne ograniczenia obliczeniowe sprzętu komputerowego, którego konstrukcja nadal realizuje postulaty Johna von Neumanna. Architektura Prin-ceton8 zakłada istnienie w systemie komputerowym pojedynczych skomplikowanych jednostek obliczeniowych, które co do zasady wykonują operacje sekwencyjnie. Jak wykazała analiza układów nerwowych organizmów żywych, przewaga ich mózgów nawet nad najszybszymi dostępnymi obecnie komputerami wynika z masowej równoległości względnie prostych jednostek obliczeniowych (pro-cesorów lub rdzeni). Ludzki mózg charakteryzuje się tym, że liczne etapy procesu myślowego wykonuje równolegle, a nie sekwencyjnie.

Tym samym, aby nadążyć z implementacją nowych rozwiązań pro-ponowanych na gruncie teoretycznym, konieczne jest wykorzystanie nowych rodzajów urządzeń komputerowych przystosowanych do obliczeń neuronowych.

W połowie trzeciej dekady XXI w. tego typu jednostki obliczeniowe są już powszechnie dostępne. Niestety, nadal ich moc oblicze-niowa pozostaje ograniczona, podobnie jak szybkość przetwarzania informacji, o wiele rzędów wielkości ustępująca fragmentom ludzkiego mózgu odpowiadającym za przetwarzanie obrazu czy dźwięku. Pomimo niemożności stworzenia systemu o podobnym stopniu skomplikowania, realne okazało się jednak projektowanie specjalizowanych systemów, które da się na drodze uczenia maszynowego przystosować do rozwiązywania konkretnych zadań. Pomimo iż nie demonstrują one myślenia abstrakcyjnego, mogą okazać się przydatne w konkretnych rozwiązaniach, czego przykładem są wy-mienione projekty naukowo-badawcze, kończące się wytworzeniem demonstratora, czyli urządzenia przedkomercyjnego (przed fazą wdrożeniową), i być wykorzystywane w praktyce do wykonywania określonych zadań w sposób niedostępny wcześniej dla systemów komputerowych.

8 K. Skadron, M. Martonosi, D.I. August, M.D. Hill, D.J. Lilja, V.S. Pai, Challenges in computer architecture evaluation, „Computer” 36 (2003), nr 8, s. 30–36. https://doi: 10.1109/MC.2003.1220579.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

29

Szczegóły sprzętowe systemów inteligentnych

Abstrahując od konkretnych rozwiązań algorytmicznych stosowanych w praktyce, takich jak opracowanie metodyki przetwarzania sekwencji klatek obrazu mających na celu identyfikację określonego (np. niepożądanego) zdarzenia w zakładzie o profilu zamkniętym, istotnym elementem budowanego systemu jest platforma sprzętowa. Ma ona za zadanie uruchamiać kod napisany w języku programowania wysokiego poziomu, implementując np. głęboką sieć splo-tową w ramach konkretnego modelu. Jest to trudne zadanie, ponieważ nawet jeżeli uda się udowodnić w warunkach laboratoryjnych możliwość wykonywania określonych operacji, praktyczna przy-datność systemu zależy od tego, czy da się go zaimplementować na dostępnej platformie sprzętowej. Obecnie istnieje wiele propozycji dotyczących specjalizowanych układów obliczeniowych pozwalających na przetwarzanie równoległe, a przez to implementację dużej i złożonej („głębokiej”) sieci neuronowej.

Jedną z najpopularniejszych platform umożliwiających równoległe przetwarzanie informacji na dużą skalę są karty „graficzne” np.

produkowane przez firmę nVidia9. Słynie ona z proponowania coraz bardziej rozbudowanych układów obliczeniowych, charakteryzujących się niekoniecznie największą jednostkową szybkością przetwarzania, ale zapewniających równoległe przetwarzanie informacji, w stopniu nieosiągalnym dla komputera ogólnego przeznaczenia wyposażonego w klasyczny procesor. Od ponad 10 lat jest to podsta-wowa platforma dla architektur nowoczesnych sieci neuronowych, jednak od parametrów konkretnego urządzenia zależy możliwość implementacji wybranego modelu. Może to ograniczać jego złożoność, a przez to pojemność (zdolność do nauczenia się dostatecznie dużej liczby przykładów), zmniejszając uzyskiwaną dokładność. O ile zatem na poziomie prac badawczych najistotniejsze jest udowod-nienie, że konkretna struktura poprawnie rozwiązuje postawione 9 G. Zhou, J. Zhou, H. Lin, Research on NVIDIA Deep Learning Accelerator, 12th IEEE International Conference on Anti-counterfeiting, Security, and Identification (ASID), Institute of Electrical and Electronics Engineers, Xiamen 2018, s. 192–

195. https://doi: 10.1109/ICASID.2018.8693202.

30

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law zadanie, w toku prac rozwojowych i przedwdrożeniowych konieczne jest wykazanie, że da się takie urządzenie w praktyce zbudować w sposób uzasadniony ekonomicznie. Pomimo, iż komputery ogólnego przeznaczenia dawno już trafiły pod strzechy, a ich kieszonko-we odpowiedniki stały się niezbędnym narzędziem funkcjonowania w społeczeństwie, zaawansowane platformy obliczeniowe nadal są niezwykle kosztowne, zaś zbudowanie odpowiednio dużego szybkie-go i wydajnego komputera może okazać się nieopłacalne.

System cyfrowy stanowiący platformę dla algorytmów uczenia głębokiego wyposażony jest zatem w procesor ogólnego przeznaczenia, pamięć operacyjną służącą do przechowywania programu sterującego oraz kart do obliczeń, których modele oraz liczba eg-zemplarzy powinny być dostosowane do rozwiązywanego zadania.

Obecnie standardem jest tworzenie aplikacji rozproszonych, co oznacza konieczność współpracy wielu elementów systemu komputerowego za pośrednictwem rozległej infrastruktury informatycz-nej, służącej do przesyłania danych dla jednostek obliczeniowych w jedną stronę oraz wyników przetwarzania w drugą.

W aspekcie sprzętowym można zatem wyróżnić dwa rozwiązania dla rozproszonego systemu wykorzystującego uczenie głębokie.

Pierwsze to system scentralizowany10, w którym obliczenia wykonywane są na jednej platformie na wzór serwerowy, zaś pozosta-łe węzły służą do dostarczania jej danych albo prezentują wyniki obliczeń użytkownikowi. Jest to rozwiązanie tradycyjnie stosowane w lokalnych sieciach komputerowych. Model architektoniczny klient–serwer to standard wytwarzania oprogramowania, stanowiący podstawę funkcjonowania nowoczesnych systemów rozproszonych, również na poziomie usług WWW.

Alternatywą jest zastosowanie systemu o dużym stopniu rozpro-szenia jednostek obliczeniowych, gdzie przetwarzanie informacji może odbywać się blisko jej źródła. W przypadku systemu analizy obrazu wizyjnego można byłoby np. rozważyć umieszczenie niewiel-10 R.M. Oviedo, F. Ramos, S. Gormus, P. Kulkarni, M. Sooriyabandara, A Comparison of Centralized and Distributed Monitoring Architectures in the Smart Grid, „IEEE

Systems Journal” 7 (2013), nr 4, s. 832–844. https://doi: 10.1109/JSYST.2013.2246033.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

31

kich urządzeń w sąsiedztwie kamer IP. Te ostatnie przekazywałyby obraz do dedykowanego komputera jednopłytkowego o niewielkich wymiarach fizycznych, takiego jak nVidia Jetson11. Z praktycznego punktu widzenia rozwiązanie to ma szereg zalet. Po pierwsze jest tańsze, ponieważ umożliwia znaczące uproszczenie systemu prze-twarzającego informacje, sprowadzając każdą platformę oblicze-niową do analizy danych z pojedynczego źródła. Takie platformy obliczeniowe są wielokrotnie tańsze od dużego systemu scentralizo-wanego. Druga zaleta to rozproszenie funkcjonalności, ułatwiające modyfikowanie rozłożenia obliczeń pomiędzy jednostkę centralną i systemy wbudowane. Niestety, w przypadku opisywanego projektu taka architektura nie jest możliwa do realizacji ze względu na specy-fikę funkcjonowania zakładu karnego oraz niemożność zapewnienia odpowiednich zabezpieczeń chroniących kamery przed fizycznym uszkodzeniem. Niemniej we współczesnej praktyce przedsiębiorstwa posiadanie alternatywnych rozwiązań dla tego samego problemu stanowi istotną przewagę konkurencyjną, umożliwiającą ła-twiejsze dopasowanie się do wymagań klienta, ale także oferowanie bardziej elastycznych produktów dostosowanych do potrzeb klienta.

Osobnym problemem w zakresie stosowania inteligentnych, de-dykowanych systemów jest utrzymywanie infrastruktury w sposób, który umożliwi ich działanie z utrzymaniem wymaganej jakości (np. dokładności identyfikacji na zakładanym poziomie z możliwością jej podwyższania, w czasie działania systemu poprzez doucza-nie). Również z tego względu, analiza ekonomiczna ma krytyczne znaczenie dla powodzenia przedsięwzięcia.

W praktyce, rozwiązania sprzętowe implementowane są w postaci modułowej, o dużej skalowalności i możliwości dopasowywania np. liczby jednostek obliczeniowych do rozmiaru rozwiązywanego problemu (liczby strumieni wideo analizowanych jednocześnie).

Podczas przygotowywania konkretnego rozwiązywania komercyjnego konieczne jest uwzględnienie ryzyka związanego z wahania-11 S. Mittal, A Survey on optimized implementation of deep learning models on the NVIDIA Jetson platform, „Journal of Systems Architecture” 97 (2019), s. 428–442.

https://doi.org/10.1016/j.sysarc.2019.01.011.

32

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law mi cen na rynku sprzętu komputerowego. Ponieważ większość systemów inteligentnych opiera się na standardowych konfiguracjach komputerowych (tzw. Commercial Off-The-Shelf), ich implementacja wymaga stworzenia dopasowanego do ich możliwości oprogramowania. Są to raczej standardowe platformy, w jednolity sposób przetwarzające wykonywany kod. Ich parametry są znane, zaś in-żynier implementujący system sztucznej inteligencji stoi przed zadaniem oszacowania, na ile konkretna konfiguracja sprzętowa okaże się przydatna i czy będzie adekwatna do konkretnego problemu (szczególnie kiedy nie jest on jeszcze do końca rozpoznany).

Przykładem wyzwania, związanego ze stricte ekonomiczną stro-ną przedsięwzięcia, była sytuacja w czasie pandemii COVID 19, kiedy okazało się, że karty graficzne niezbędne do budowy scen-tralizowanego modułu podejmowania decyzji są niedostępne. Jeśli już udawało się konkretne egzemplarze znaleźć, były one znacząco droższe niż przewidywał budżet projektu. W takiej sytuacji konieczne jest najczęściej wdrożenie operacji optymalizacyjnych jeżeli chodzi o oprogramowanie. Rozwiązywanie podobnych problemów stanowi jednak wartość dodaną, czy też efekt uboczny zapewniający dodatkową wiedzę, która może zostać wykorzystana w przyszłości podczas realizacji innych, podobnych projektów.

Szczegóły programowe rozwiązania

Współczesne algorytmy, w zakresie sztucznej inteligencji, znacząco wyprzedzają możliwości implementacji konkretnych rozwiązań na dostępnym sprzęcie. Ograniczone możliwości komputerów uniemożliwiają implementowanie bardziej złożonych podejść służących do przetwarzania danych multimedialnych, które są w szczególności wymagające, jeżeli chodzi o pamięć oraz obliczenia.

Modele głębokich sieci neuronowych są bowiem architektura-mi o dużej liczbie połączeń pomiędzy jednostkami obliczeniowy-mi, sięgających nawet setek tysięcy pomimo faktu, iż połączenia te mają często charakter jedynie lokalny. Wymaga to stosowania kart prostszych, ale na rynku trudno dostępnych, albo bardzo zaawan-

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

33

sowanych, a przez to drogich. Przykładem może być model sieci Whisper12, będący narzędziem wspomagającym rejestrowanie oraz identyfikowanie tematyki wywiadu lekarskiego.

Praktyka przedsiębiorstwa działającego w branży wysokich technologii, z naciskiem na sztuczną inteligencję, wymaga zatem ze strony specjalistów ds. sztucznej inteligencji znajomości najnowszych rozwiązań programowych, które mogłyby zostać zaimplementowane w projektowanych produktach. Proces tworzenia oprogramowania obejmuje dwa aspekty wymagające dużych kompetencji z ich strony. Pierwszy, to znajomość najnowszych technik programistycznych wykorzystywanych w tzw. Data Science, czyli dziedzinie przetwarzania danych oraz odkrywania wiedzy. Od dłuższego czasu podstawowym narzędziem jest tutaj wysokopoziomowy język programowania Python. Jego łatwa do opanowania składnia oraz bogate biblioteki wspomagające wykonywanie typowych operacji, czynią przyjaznym narzędziem również dla osób nie będących ekspertami w zakresie programowania. Jest to bowiem język, w którym większość operacji na danych czy pamięci (np. jej dynamiczne przydzielanie i zwal-nianie) wykonywane są przez neutralną, z punktu widzenia sprzętu platformę uruchomieniową, tzw. maszynę wirtualną.

Do zalet Pythona należy zaliczyć jego wszechstronność oraz możliwość zastosowania, zarówno jeśli chodzi o tworzenie skryptów od-powiedzialnych za uczenie maszynowe, jak i frameworków umożliwiających projektowanie aplikacji www, z dużym naciskiem na przetwarzanie po stronie serwera. Jedną z wad stanowi natomiast ograniczona wydajność, co jest bolączką większości języków programowania wysokiego poziomu, które nie mogą równać się pod tym względem z językami bezpośrednio umożliwiającymi sterowanie procesorem oraz zarządzanie pamięcią tj. C, czy assembler.

Z drugiej strony, współczesne techniki programistyczne ułatwiają tworzenie elementów rozproszonego systemu inteligentnego z przetwarzaniem po stronie klienta (np. w obrębie przeglądarki in-12 Y. Gong, S. Khurana, L. Karlinsky, J. Glass, Whisper-AT: Noise-Robust Automatic Speech Recognizers are Also Strong General Audio Event Taggers, INTERSPEECH 2023, Dublin 2023. http://dx.doi.org/10.21437/Interspeech.2023–2193.

34

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ternetowej). Ponieważ tego typu operacje nigdy nie są wydajne, ich ograniczenia mogłyby zniechęcać do wykorzystania skomplikowanych struktur neuronowych w takim ekosystemie. Istnieją jednak rozwiązania mające przyspieszyć przetwarzanie przez małe platformy obliczeniowe o ograniczonych zasobach. Jedną z nich jest technologia WebAssembly13 mająca znacząco przyspieszyć przetwarzanie kodu wykonywanego przez przeglądarkę internetową, zwykle realizowaną poprzez interpreter języka JavaScript, stanowiącego główny obecnie język programistyczny systemów rozproszonych opartych na paradygmacie www.

Drugi aspekt wykorzystania systemów sztucznej inteligencji od strony programistycznej, to znajomość specjalizowanych bibliotek.

Do tego celu wykorzystuje się narzędzia dostępne dla każdego języka, jednak istniejące rozwiązania w zakresie uczenia głębokiego faworyzują zdecydowanie język Python. Liczne biblioteki służące do uczenia oraz walidacji głębokich sieci neuronowych, pozwalają na sprawne i elastyczne przygotowanie modelu dopasowanego do własnych potrzeb. Duża liczba nowoczesnych modeli sieci neuronowych wykorzystywanych do przetwarzania multimedialnego dostępna jest w postaci gotowych struktur już wytrenowanych. Oznacza to, że teoretycznie nadają się one do testowania od razu po uruchomieniu bez konieczności dodatkowego uczenia. Do takich zaliczają się modele typu YOLO (You Only Look Once), MobileNet14 itp.

O możliwościach i efektywności modelu głębokiego, decyduje ilość dostępnych danych, które mogą zostać wykorzystane do uczenia sieci. Pomimo ogólnie entuzjastycznego spojrzenia na rozwój technologii uczenia głębokiego, jego wysoką efektywność osiąga się najczęściej poprzez wprowadzenie jak największej kontroli środowiska, w którym sieć ma podejmować decyzje. W przypadku opi-13 A. Haas, A. Rossberg, D.L. Schuff, B.L. Titzer, M. Holman, D. Gohman, L. Wag-ner, A. Zakai, J.F. Bastien, Bringing the web up to speed with WebAssembly, „ACM SIGPLAN Notices” 52 (2017), art. 6, s. 185–200. https://doi.org/10.1145/3140587.3062363.

14 D. Sinha, M. El-Sharkawy, Thin MobileNet: An Enhanced MobileNet Architecture, IEEE 10th Annual Ubiquitous Computing, Electronics & Mobile Communication Conference (UEMCON), Institute of Electrical and Electronics Engineers, New York 2019, s. 0280–0285, doi: 10.1109/UEMCON47517.2019.8993089.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

35

sywanych projektów możliwe jest optymalizowanie modeli inteligentnych tak, aby były one w stanie wykrywać konkretne zdarzenia w wybranych lokalizacjach. Z drugiej strony, wspomagają one rejestrowanie i analizę semantyczną wywiadu lekarskiego, w ściśle określonych warunkach i przy odpowiednio dobranych założe-niach wstępnych.

Aby jednak zaprojektowane modele mogły spełnić pokładane w nich założenia, konieczne jest najczęściej dostarczenie bardzo specyficznych danych uczących. Trudność polega tu najczęściej na tym, że nie są one dostępne publicznie, co oznacza konieczne-go przygotowania własnego zbioru. W przypadku analizy sekwencji wideo, konieczne było zarejestrowanie scen ilustrujących zdarzenia niepożądane, na których sieć mogłaby się uczyć. Proces taki może trwać długo i być trudny do realizacji ze względu np. na brak doświadczenia zespołu realizującego nagrania. Praktyka przedsiębiorstwa wskazuje konieczność wykazania, że określony system w wersji prototypu jest w stanie wykonywać stawiane przed nim zadania, a następnie stopniowe zwiększanie jego możliwości poprzez sukce-sywne uzupełnianie zbiorów danych trenujących, pozyskanych zarówno w warunkach laboratoryjnych, jak i na etapie wdrożenia.

Ostatnim istotnym aspektem projektowania oprogramowania podczas prac badawczo-rozwojowych jest przygotowanie odpowiedniego interfejsu użytkownika. Wbrew pozorom jest to niezwykle istotny element systemu, który decydować będzie o jego powodzeniu lub porażce, ponieważ sprzedawany system musi być intuicyjny oraz łatwy w użyciu, również przez osoby niebędące specjalistami w zakresie sztucznej inteligencji. Oznacza to np. konieczność auto-matycznego dopasowywania parametrów systemu tak, aby działał

on poprawnie pomimo niemożności wykonania przez użytkowników końcowych ręcznej optymalizacji. Jest to również prawdopodobnie jedno z największych wyzwań nadchodzących lat. Budowa złożonych narzędzi informatycznych, które jednocześnie mają być proste w użyciu i intuicyjne, stanowić będzie o powiększeniu bazy użytkowników, a także zwiększeniu obszarów zastosowań dla tego typu systemów.

36

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Aspekt prawny

Przygotowanie gotowego rozwiązania opartego na sztucznej inteligencji, które ma być oferowane klientom jako produkt, wymaga również rozwiązania problemów natury prawnej. Ponieważ oprogramowanie na terenie Unii Europejskiej nie podlega ochronie patentowej, konieczne jest opracowanie skutecznej metody ochrony własności intelektualnej oraz egzekwowania jej od klientów.

W przypadku aplikacji serwerowych oznacza to najczęściej konieczność ograniczenia dostępu do serwera w zakresie pozyskiwa-nia kodu źródłowego.

Z drugiej strony konieczna jest weryfikacja, czy zastosowane biblioteki lub modele (jeżeli zostały opracowane przez osoby trzecie) objęte są licencją umożliwiającą komercyjne nieodpłatne wykorzystanie w oferowanych produktach. W praktyce większość oprogramowania tworzonego na potrzeby modeli inteligentnych definiowa-na jest jako otwarte programowanie z licencjami, umożliwiającymi komercyjne wykorzystanie, a nawet rozszerzanie kodu o proponowane przez siebie funkcjonalności.

Modne jest w tym aspekcie poprawne zdefiniowanie relacji pomiędzy usługodawcą, czyli klientem korzystającym z przygotowanych funkcjonalności oraz przedsiębiorstwem, które konkretną usługę zrealizowało. Dąży się do zachowania jak największej możliwości dalszego komercyjnego funkcjonowania w ramach implementacji takiego lub podobnych systemów.

Przykładowa konfiguracja sprzętowo-programowa Przedstawione rozważania przeprowadzane były wielokrotnie w ramach działalności firmy, tzn. podczas realizacji projektów badawczo-rozwojowych, których efektem miał być produkt nadający się do sprzedaży po ewentualnie dodatkowych działaniach przedwdrożeniowych. Proces realizacji takiego projektu polega na prze-analizowaniu dostępnych rozwiązań i wybraniu najlepiej nada-jących się do rozwiązania problemu. Następnie projektowana jest

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

37

architektura systemu, po czym dochodzi do implementacji systemu za pomocą wcześniej dobranych narzędzi programistycznych przy założeniu, że dostępny jest tu odpowiedni sprzęt komputerowy, czyli platforma dla tworzonego oprogramowania. Poniżej przedstawiono przykładową konfigurację scentralizowanej platformy obliczeniowej wykorzystującej karty graficzne firmy nVidia do implementacji splotowych sieci neuronowych, w celu jednoczesnej analizy 32

strumieni wideo pochodzących z kamer IP. Rozwiązanie zostało przetestowane warunkach laboratoryjnych, następnie opracowano techniki optymalizacyjne. Umożliwiają one analizę podanej liczby strumieni, pomimo iż sam sprzęt nie jest w stanie równolegle przetwarzać takiej ilości danych. Specjalizowana metodyka obliczeń sekwencyjno-równoległych umożliwiła opracowanie modułu komputerowego dla maksymalnej liczby 32 kamer, który jest w stanie przetwarzać dostarczane strumienie poprzez współbieżną analizę określonej liczby strumieni (tzw. wsadu), przeplatając przetwarzanie poszczególnych grup strumieni.

Oprogramowanie platformy podzielone jest na dwie części. Pierwsza to aplikacja serwera obliczeniowego, implementująca poszcze-gólne architektury sieci głębokich dla wybranych strumieni wideo.

Kod w całości został napisany z wykorzystaniem języka Python oraz specjalizowanych bibliotek dla uczenia głębokiego: TensorFlow oraz Keras. Ze względu na dążenie do maksymalnej stabilności systemu, platforma serwerowa uruchomiona została pod kontrolą systemu operacyjno-serwerowego Ubuntu. Jest to obecnie jeden ze standardów dla sieciowych systemów operacyjnych umożliwiających scentralizowane przetwarzanie informacji. Drugi moduł oprogramowania systemu inteligentnego to serwer WWW połączony z serwe-rem obliczeniowym za pośrednictwem wywołań protokołu HTTP.

Jego zadaniem jest utrzymywanie aplikacji WWW, z której korzysta użytkownik końcowy. Umożliwia ona konfigurację poszczególnych kamer, z których pozyskiwane są dane obrazowe. Chodzi tu przede wszystkim o definiowanie zbioru urządzeń, dla których będzie analizowany obraz, definiowanie progów detekcji określonych zdarzeń, wreszcie analizowanie dzienników zdarzeń tak, aby móc stwierdzić czy np. system był w stanie wykryć wszystkie zdarzenia niepożąda-

38

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ne, które w rzeczywistości miały miejsce. Stos programistyczny dla tego modułu obejmował framework Flask dla języka Python, którego zadaniem jest przygotowanie strony WWW po stronie serwera.

Po przesłaniu strony do klienta uruchamiany jest kod JavaScript interpretowany przez przeglądarkę. Jest to obecnie powszechnie stosowany standard w zakresie tworzenia komercyjnych aplikacji rozproszonych.

Ponieważ system taki musi być możliwie mało angażujący uwagę, większość operacji wykonywanych w nim odbywa się w tle. Opisane moduły wymieniają dane bez wiedzy użytkownika. Ten ostatni jest informowany wyłącznie o zajściu konkretnego zdarzenia, co wymaga jego reakcji w świecie rzeczywistym oraz potwierdzenia zarejestrowania incydentu w systemie.

Grafika 1. Struktura systemu wykrywania zdarzeń niepożądanych.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

39

Grafika 2. System wykrywania zdarzeń niepożądanych.

Podsumowanie

Pomimo, iż sztuczna inteligencja wciąż nie umożliwia stworzenia autonomicznych samoświadomych maszyn, zdolnych do samodzielnego funkcjonowania w świecie, to kolejne odkrycia prowadzą do powstawania algorytmów umożliwiających ich wykorzystanie, jako użytecznych narzędzi. Są to głównie złożone struktury neuronowe potrafiące w czasie rzeczywistym naśladować pewne funkcje mózgu ludzkiego. Ich implementacja w systemie komercyjnym napotyka szereg problemów i wyzwań, które muszą być rozwiązywane podczas dążenia do stworzenia produktu atrakcyjnego pod względem funkcjonalności, łatwego w użyciu, ale również niezbyt drogiego w użytkowaniu.

Przedstawione aspekty projektowe stanowią obecnie standardowe podejście firm działających w branży wysokich technologii.

40

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Pomijając wciąż istotne ograniczenia poszczególnych algorytmów, krytycznym czynnikiem decydującym o powodzeniu przedsięwzięcia szczególnie ekonomicznym jest jednak pomysł, za którym powinna iść analiza wykonalności oraz metodyka realizacji projektu zapewniająca stworzenie planowanego produktu.

W tym sensie firmy, zarówno duże przedsiębiorstwa, jak i startu-py spin-off powstające przy uczelniach wyższych, muszą rozwiązy-wać podobne problemy, które często mają charakter zupełnie przy-ziemny. Należy przede wszystkim odpowiedzieć na pytanie, czy realizacja konkretnego projektu jest możliwa nie tylko pod względem technicznym, ale również od strony ekonomicznej. Są to czynniki decydujące o tym, czy powstały produkt będzie atrakcyjny na rynku oraz dostępny pod względem cenowym.

Bibliografia

Ciaparrone G., Luque Sánchez F., Tabik S., Troiano L., Tagliaferri R., Herrera F., Deep learning in video multi-object tracking: A survey, „Neurocomputing” 381 (2020), s. 61–88. https://doi.org/10.1016/j.neucom.2019.11.023.

Gong Y., Khurana S., Karlinsky L., Glass J., Whisper-AT: Noise-Robust Automatic Speech Recognizers are Also Strong General Audio Event Taggers, INTERSPEECH 2023, Dublin 2023. http://dx.doi.org/10.21437/Interspeech.2023-2193.

Gu J., Wang Z., Kuen J., Ma L., Shahroudy A., Shuai B., Liu T., Wang X., Wang G., Cai J., Chen T., Recent advances in convolutional neural networks, „Pattern Recognition” 77 (2018), s. 354–377. https://doi.org/10.1016/j.patcog.

2017.10.013.

Haas A., Rossberg A., Schuff D. L., Titzer B. L., Holman M., Gohman D., Wa-gner L., Zakai A., Bastien J.F., Bringing the web up to speed with WebAssembly, „ACM SIGPLAN Notices” 52 (2017), art. 6, s. 185–200. https://doi.

org/10.1145/3140587.3062363.

Ke Y., Sukthankar R., PCA-SIFT: a more distinctive representation for local image descriptors, Proceedings of the 2004 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, Institute of Electrical and Electronics Engineers, Washington 2004. https://doi: 10.1109/CVPR.2004.1315206.

Piotr Bilski, Jacek Olejnik • Zastosowania sztucznej inteligencji...

41

Li J., Dai W., Metze F., Qu S., Das S ., A comparison of Deep Learning methods for environmental sound detection, IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), Institute of Electrical and Electronics Engineers, New Orleans 2017, s. 126–130. https://

doi.org/10.1109/ICASSP.2017.7952131.

Mehrish A., Majumder N., Bharadwaj R., Mihalcea R., Poria S., A review of deep learning techniques for speech processing, „Information Fusion” 99

(2023), art. 101869. https://doi.org/10.1016/j.inffus.2023.101869

Mittal S., A Survey on optimized implementation of deep learning models on the NVIDIA Jetson platform, „Journal of Systems Architecture” 97 (2019), s. 428–442. https://doi.org/10.1016/j.sysarc.2019.01.011.

Oviedo R.M., Ramos F., Gormus S., Kulkarni P., Sooriyabandara M., A Comparison of Centralized and Distributed Monitoring Architectures in the Smart Grid, „IEEE Systems Journal” 7 (2013), nr 4, s. 832–844. https://

doi: 10.1109/JSYST.2013.2246033.

Sinha D., El-Sharkawy M., Thin MobileNet: An Enhanced MobileNet Architecture, IEEE 10th Annual Ubiquitous Computing, Electronics & Mobile Communication Conference (UEMCON), Institute of Electrical and Electronics Engineers, New York 2019, s. 0280–0285. https://doi: 10.1109/UEMCON47517.2019.8993089.

Skadron K., Martonosi M., August D.I., Hill M.D., Lilja D.J., Pai V. S., Challenges in computer architecture evaluation, “Computer” 36 (2003), nr 8, s. 30–36.

https://doi: 10.1109/MC.2003.1220579.

Srivastava S., Divekar A.V., Anilkumar C., Comparative analysis of deep learning image detection algorithms, “Journal of Big Data” 8, 66 (2021). https://

doi.org/10.1186/s40537-021-00434-w.

Zhang W., Yao T., Zhu S., el Saddik A., Deep Learning–Based Multimedia Analytics: A Review, “ACM Transactions Multimedia Computing Communications Applications” 15 (2019), wyd. 1s., art. 2, s. 1–26. https://doi.org/

10.1145/3279952.

Zhou G., Zhou J., Lin H., Research on NVIDIA Deep Learning Accelerator, 12th IEEE International Conference on Anti-counterfeiting, Security, and Identification (ASID), Institute of Electrical and Electronics Engineers, Xiamen 2018, s. 192–195. https://doi: 10.1109/ICASID.2018.8693202.

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Janusz Chełchowski*, Andrzej Niekurzak**

Ryzyka dla bezpieczeństwa

związane ze sztuczną inteligencją

Abstrakt

Obserwowany w ostatniej dekadzie dynamiczny rozwój sztucznej inteligencji (AI) wywołuje pytania o ryzyka dla bezpieczeństwa z nim związane. Bezpieczeństwo to obszar niezwykle ważny dla egzystencji jednostki, grup oraz dla istnienia całej ludzkości. Ryzyka potencjalnie generowane przez AI silnie wpływają na bezpieczeństwo zarówno w obszarze rzeczywistego oddziaływania, jak i w sferze nadziei i obaw.

W artykule autorzy poddają analizie możliwość pozytywnego i nega-tywnego wpływu AI na bezpieczeństwo. W pracy wykorzystują informacje i opinie uzyskane podczas wywiadu przeprowadzonego z modelami językowymi opartymi na AI: Chat GPT 3.5 firmy OpenAI oraz Gemini firmy Google.

Wykorzystanie AI bezspornie przynosi ludzkości korzyści. Z drugiej strony może przynieść wiele poważnych zagrożeń, zarówno wykorzystana w nieodpowiedni sposób przez człowieka, jak i w wyniku samodzielnych działań i decyzji. Autorzy opisują wybrane kategorie zagrożeń, m.in.

użycie AI do złośliwych celów i cyberataków, błędy i awarie systemów AI, zagrożenie dla prywatności i autonomii. W artykule autorzy poddają dyskusji poprawność terminu „sztuczna inteligencja” i postulują w zamian

* Dr hab. inż. Janusz Chełchowski, prof. A. Pol., Akademia Policji w Szczytnie, Polska, e-mail: j.chelchowski@apol.edu.pl; https://orcid.org/0000-0001-5812-5664.

** Dr Andrzej Niekurzak, Polska, e-mail: andynodust@gmail.com.

44

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law posługiwanie się terminem „cyfrowa inteligencja”. Wskazują również, że jednym z największych zagrożeń ze strony AI jest jej możliwość do nieograniczonego rozwoju, przy jednoczesnej utracie kontroli nad szybkością i kierunkami tego rozwoju.

W konkluzji autorzy postulują konieczność stworzenia programu „do-brych praktyk” ubranego w międzynarodowe ramy prawne w celu zracjo-nalizowania ryzyka związanego z rozwojem sztucznej inteligencji.

Słowa kluczowe

Bezpieczeństwo, cyfrowa inteligencja, sztuczna inteligencja, ryzyko, zagrożenie.

Wprowadzenie

Bezpieczeństwo rozpatrywane na najniższym poziomie, jest jedną z podstawowych potrzeb człowieka. Określa się je jako dążenie do uzyskania stanu lub sam stan, który daje poczucie spokoju, zapewnia możliwości przetrwania oraz rozwoju i realizacji własnych interesów. W pierwszej połowie XX wieku amerykański psycholog, Abraham Maslow, stworzył teorię psychologiczną pod nazwą

„Hierarcha potrzeb” i opisał ją w artykule „Teoria Ludzkiej Moty-wacji”. Obecnie hierarchię potrzeb określa się mianem „piramidy Maslowa”, a potrzeba bezpieczeństwa znajduje się w jej podstawie tuż ponad najbardziej pierwotnymi potrzebami związanymi z wy-maganiami fizycznymi, niezbędnymi do przetrwania człowieka.

Potrzeby związane z bezpieczeństwem, w ujęciu Maslowa, to zbiór odwołujący się do „pewności, stabilności, oparcia, opieki, wolności od strachu, lęku i chaosu, struktury, porządku, prawa (. .) itd.”1.

Pojęcie „bezpieczeństwo” jest wieloznaczne i może mieć różne znaczenia w zależności od kontekstu. W ogólnym ujęciu bezpieczeństwo oznacza stan pewności, spokoju i braku zagrożenia. Bezpieczeństwo rozumiane jako stan, oznacza poczucie bezpieczeństwa danego podmiotu, np. człowieka. Bezpieczeństwo rozumiane jako proces to ciągła działalność jednostek, społeczności lokalnych, 1 A. Maslow, Motywacja i osobowość, Warszawa 2009, s. 66.

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 45

państw, czy organizacji międzynarodowych w tworzeniu pożądanego stanu bezpieczeństwa. W budowaniu poczucia bezpieczeństwa jednostki czy organizacji uczestniczy również pewność ograniczonych zagrożeń utraty wartości, które mają bezpośredni wpływ na zachowanie istnienia i rozwój, np. utrata zdrowia, przedmiotów posiadających wartość użytkową czy też majątkową. W szerszym zakresie wartości te obejmują również dobra niematerialne, takie jak wolność, szacunek, uczucia oraz możliwość samorealizacji2.

Wyróżnia się następujące rodzaje bezpieczeństwa:

• ze względu na obszar jaki obejmuje – bezpieczeństwo global-ne, bezpieczeństwo międzynarodowe, bezpieczeństwo regio-nalne, bezpieczeństwo narodowe, bezpieczeństwo lokalne;

• ze względu na stosunek do obszaru państwa – bezpieczeństwo zewnętrzne (narodowe) i bezpieczeństwo wewnętrzne;

• ze względu na dziedzinę, w jakiej występuje – bezpieczeństwo ekologiczne, ekonomiczne, energetyczne, fizyczne, informatyczne (cybernetyczne, teleinformatyczne), kulturowe, mili-tarne, polityczne, socjalne, społeczne.

Zarysowała się tendencja, aby przez bezpieczeństwo państwa rozumieć wszystko, co może mieć jakikolwiek związek z zagrożeniem państwa i jego społeczeństwa.

Bezpieczeństwo i chronione wartości podlegają wielu zagroże-niom zarówno ze strony potrzeb i wartości innych ludzi, jak i ze strony fizycznego oddziaływania sił natury. Samo pojęcie zagrożenia nie jest proste do zdefiniowania. Opiera się w gruncie rzeczy na subiektywnym odbiorze rzeczywistości przez podmiot postrzega-jący zjawiska jako niebezpieczne. A więc odbiór jakiegoś rzeczywistego procesu jako zagrożenia zależny jest od stanu świadomości podmiotu i nie zawsze musi być zgodny ze stanem faktycznym. Per-cepcja rzeczywistego zagrożenia zależna więc będzie od zdobytego przez jednostkę lub grupę doświadczenia, wiedzy, a także od oceny sytuacji. Z powodu subiektywnego postrzegania zagrożeń waż-2 L.F. Korzeniewski, Podstawy nauk o bezpieczeństwie, Warszawa 2012, s. 115

[za:] G. Habigier-Papiska, Bezpieczeństwo edukacyjne jako obszar bezpieczeństwa wewnętrznego państwa, „Annales Univeristas Paedagogicae Cracoviensis. Studia Politologica XII”, 2014, folia 151, s. 66.

46

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ne jest, by można było oszacować realny poziom zagrożenia w celu przedsięwzięcia właściwych środków zapobiegawczych.

Z pojęciem zagrożenia ściśle wiąże się ryzyko, choć nie są to pojęcia tożsame. Zagrożenie to źródło negatywnych konsekwencji, podczas gdy ryzyko to miedzy innymi prawdopodobieństwo ich wystąpienia.

Jednym z możliwych zagrożeń jakie pojawiło się w ostatnich latach jest rozwój systemów określanych jako sztuczna inteligencja (AI). Duża część społeczeństwa w rozwoju tych systemów pokłada słuszne nadzieje na zwiększenie potencjału twórczego i dynamiki postępu cywilizacyjnego. Jednak nie sposób nie dostrzegać również zagrożeń negatywnych efektów tego procesu. Aby ograniczyć su-biektywizm percepcji ryzyk wynikających z rozwoju tej technologii należy przede wszystkim dążyć do poszerzania naszej wiedzy na jej temat oraz precyzyjnego wskazania zagrożeń jakie niesie. Ponieważ zagadnieniem poruszanym w ramach niniejszego artykułu są ryzyka dla bezpieczeństwa związane ze sztuczną inteligencją, warto za-pytać o pojęcie ryzyka samą AI. ChatGPT firmy OpenAI oraz Gemini firmy Google są modelami językowymi opierającymi się na systemie sztucznej inteligencji. Zapytany o pojęcie ryzyka model językowy, oparty na systemie sztucznej inteligencji opisuje je jako „prawdopodobieństwo wystąpienia zdarzenia, które może mieć negatywne konsekwencje” oraz „w kontekście bezpieczeństwa, ryzyko odnosi się do prawdopodobieństwa wystąpienia zdarzenia, które może spowodować utratę, szkodę lub zniszczenie”3. W słowniku języka polskiego PWN znajdujemy ryzyko określane jako możliwość, że coś się nie uda, przedsięwzięcie, którego wynik jest niepewny lub też odważenie się na takie niebezpieczeństwo. Również jako prawdopodobieństwo powstania szkody obciążające osobę poszkodowaną niezależnie od jej winy, jeśli umowa lub przepis prawny nie zobo-wiązywały innej osoby do wyrównania szkody4. Natomiast w teorii zarządzania ryzyko oznacza przyszłe zdarzenie, sytuację, w której wybranie danego wariantu decyzyjnego pociąga za sobą możliwo-3 Moduł SI Gemini firmy Google, https://gemini.google.com [dostęp: 05.04.2024].

4 Ryzyko, https://sjp.pwn.pl/szukaj/ryzyko.html [dostęp: 05.04.2024].

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 47

ści wystąpienia negatywnych i pozytywnych konsekwencji przy znanym prawdopodobieństwie wystąpienia każdej możliwości. A więc w organizacji ryzyko stanowi zarówno szansę, gdy konsekwencje podejmowanych działań są pozytywne, jak i zagrożenie, gdy konsekwencje podejmowanych działań mają skutek negatywny. Tak więc, zgodnie z tematem pracy zajmując się ryzykami dla bezpieczeństwa związanym z AI należy pamiętać również o szansach, czyli pozytywnych skutkach, a nie wyłącznie o zagrożeniach.

Czym jest zarządzanie ryzykiem w bezpieczeństwie?

Zarządzanie ryzykiem to logiczna i systematyczna metoda okre-ślania jego celu, tworzenia kontekstu, identyfikacji, analizy, kwan-tyfikacji, oceny, działania i nadzoru oraz informowania o ryzyku w sposób, który umożliwi organizacjom odpowiedzialnym za bezpieczeństwo minimalizację zagrożeń i maksymalizację możliwości.

Na proces zarządzania ryzykiem składają się cztery podstawowe kroki:

1. Określenie celu zarządzania ryzykiem.

2. Identyfikacja ryzyk.

3. Analiza i kwantyfikacja ryzyk.

4. Kontrola ryzyk.

Problematyka zarządzania ryzykiem w dużej mierze opiera się na umiejętności szacowania ryzyka w zakresie możliwych do urze-czywistnienia się scenariuszy i zidentyfikowanych dla każdego z nich zagrożeń i skutków ich zaistnienia. Wyznaczając prawdopodobieństwo wystąpienia zdarzenia i spowodowanej nim straty można wyznaczyć wartość ryzyka, która jest iloczynem prawdopodobieństwa i skutku (straty danej wartości) jego wystąpienia.

Strata będąca następstwem danego zagrożenia może doty-czyć wartości materialnej i niematerialnej. Oszacowanie wysokości straty w pierwszym przypadku jest w miarę proste, natomiast w drugim przypadku sytuacja jest bardziej złożona, gdyż trudno jest wyceniać wartości niematerialne, jak np. stopień utraty pozycji społecznej w wyniku wycieku danych. Określenie prawdopodobieństwa wystąpienia danego incydentu oraz oszacowanie jego następstw poprzedza określenie poziomu ryzyka. Jak wspomniano w poprzednim akapicie, jako poziom ryzyka można przyjąć iloczyn

48

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law prawdopodobieństwa i skutków wystąpienia incydentu. Oszacowanie takie znakomicie ułatwia macierz ryzyka, pozwalająca w sposób obrazowy pokazać poziomy ryzyka grupując je za pomocą kolo-rów ze zdefiniowanymi właściwymi działaniami.

SKUTEK

Bardzo niski

Niski

Średni

Wysoki

Bardzo Wysoki

1

2

3

4

5

Prawie pewne

5

Ś

W

K

K

K

Prawdopodobne

4

Ś

W

W

K

K

Możliwe

3

N

Ś

W

W

K

Mało prawdopodobne

2

N

Ś

Ś

W

W

WDOPODOBIEŃSTWO

PRA

Rzadkie

1

N

N

Ś

W

W

Poziom ryzyka

Opis działania

Niski (N)

Poziom ryzyka akceptowalny – działania podejmowane w zależności od wymaganych nakładów

Średni (Ś)

Poziom ryzyka nieakceptowalny – działanie może zostać przesunięte w czasie, ale wymaga okresowego monitorowania

Wysoki (W)

Poziom ryzyka nieakceptowalny – działanie może zostać przesunięte w czasie, ale wymaga stałego monitorowania

Krytyczny (K)

Poziom ryzyka nietolerowany – wymaga natychmiastowego działania Grafika 1. Przykładowa macierz ryzyka.

Źródło: Poradnik GIODO „Jak stosować podejście oparte na ryzyku, kwiecień 2018, s. 23.

Analizę ryzyka można wykonać zarówno w sposób jakościowy, ilościowy jak i mieszany. Zgodnie z tymi pojęciami w analizie jako-ściowej prawdopodobieństwo i skutki prezentuje się wykorzystując opisową skalę rankingową np.: niski, średni, wysoki, krytyczny etc.

W przypadku analizy ilościowej wykorzystuje się skale liczbowe.

Zarówno pierwszejak i drugie podejście ma swoje wady i zalety, dlatego w organizacjach często korzystasię z metody mieszanej.

Sztuczna inteligencja (AI – z ang. arificial intelligence) Termin „sztuczna inteligencja” został po raz pierwszy użyty prawdopodobnie przez Johna McCarthy’ego w 1955 roku. Zdefiniował

on go wówczas jako „konstruowanie maszyn, o których działaniu

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 49

dałoby się powiedzieć, że są podobne do ludzkich przejawów inteligencji”5. Ten sam McCarthy zorganizował w 1956 roku pierwszą konferencję poświęconą sztucznej inteligencji na Dartmouth College, która stała się punktem zwrotnym w rozwoju dziedziny AI i zapoczątkowała intensywne badania w tej dziedzinie. Jednak już nieco wcześniej Alan Turing publikuje artykuł „Computing Machinery and Intelligence” (Maszyna licząca a inteligencja), w którym opisuje test nazwany od jego imienia testem Turinga, mający na celu oce-nę zdolności maszyny do wykazywania inteligencji równoważnej inteligencji człowieka. Test polega na tym, że człowiek prowadzi rozmowę z kilkoma rozmówcami i jeżeli człowiek nie jest w stanie określić, czy któryś z rozmówców jest maszyną czy człowiekiem, wtedy mówi się, że maszyna przeszła test6. Już w 1972 roku program ELIZA udowodnił, że człowieka łatwo jest oszukać przez maszynę, aby uwierzył, że rozmawia z innym człowiekiem. Jednakże nie jest to tożsame z przejściem testu Turinga, gdyż w prawdziwym teście uczestnik stara się określić naturę rozmówcy. 25 lat później, w roku 1997 komputer Deep Blue firmy IBM pokonuje mistrza świata w sza-chach Garriego Kasparowa, w 2016 roku AlphaGo firmy DeepMind pokonuje mistrza świata Lee Sedola w grze Go, a w 2020 roku firma OpenAI ujawnia imponujące możliwości generowania tekstu przez Chata GPT-3. Czym więc jest sztuczna inteligencja? Czy już wygraną Deep Blue można określić jako sukces inteligencji, choć ten system nie potrafił się uczyć? Czy może Chat GPT, który posiada zdolność uczenia maszynowego jest wart nazwania inteligencją?

Pojęcie „sztuczny” (od łac. artificialis) oznacza: imitujący coś naturalnego, naturalnie nie występujący w przyrodzie, wytworzony przez człowieka.

Pojęcie „inteligencja” (od łac. intelligentia – zdolność pojmowa-nia, rozum) oznacza: zdolność do postrzegania, analizy i adaptacji do zmian otoczenia, rozumienia, uczenia się, logicznego myślenia oraz wykorzystywania posiadanej wiedzy i umiejętności w różnych 5 A. Kaplan, M. Haenlein, Siri, Siri in my Hand, who’s the Fairest in the Land? On the Interpretations, “Illustrations and Implications of Artificial Intelligence, Business Horizons” 62(1) (2019), s. 15–25.

6 Test Turinga, https://pl.wikipedia.org/wiki/Test_Turinga [dostęp: 06.04.2024].

50

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law sytuacjach. Cecha umysłu warunkująca sprawność czynności po-znawczych, takich jak myślenie, reagowanie, rozwiązywanie problemów.

Jeżeli przyjąć, że inteligencja jest naturalna i wynika z natury, to sformułowanie „sztuczna inteligencja” jest niedoskonałe, choć powszechnie używane. Model językowy AI Gemini na pytanie „Czy nie odbierasz takiego zestawienia słów jako oksymoron?” odpowiedział:

Istnieje ryzyko nadużywania terminu „inteligencja” : Nawet jeśli inteligencja jest często kojarzona z cechami ludzkimi, nie oznacza to, że tylko ludzie mogą być inteligentni. Należy unikać nadużywania terminu „inteligencja”

do sugerowania wyższości ludzi nad maszynami 7 .

Ogólnie, zaawansowane modele językowe w rozmowie wykorzystują olbrzymią wiedzę zebraną w bazach danych Internetu, doko-nują logicznej syntezy treści i odpowiadają namna zadawane pytania czy poruszane kwestie. Teoretycznie jest to działaniem maszyny, skomplikowanej, ale nadal maszyny. Jednakże niepokoi brzmienie przytoczonej powyżej odpowiedzi, gdzie maszyna, która teoretycznie jedynie przekazuje nam zebrane informacjena mniej, czy bardzie abstrakcyjny temat, z wyraźnym naciskiem wskazuje „niesto-sowność” czysto ludzkiego podejścia do pojęcia „inteligencja”.

Jeszcze bardziej niepokojąco brzmi końcowy fragment dialogu o tematyce bezpieczeństwa AI pomiędzy człowiekiem, a tym samym modelem językowym:

(…)

Prowadzący: Dziękuję za rozmowę, czy chciałbyś coś jeszcze dodać w tym temacie?

Model językowy Gemini: Dziękuję za rozmowę. Cieszę się, że mogłem po-dzielić się swoimi przemyśleniami na temat ryzyka i korzyści AI dla bezpieczeństwa. Chciałbym dodać, że AI jest wciąż stosunkowo nową technologią i wiele pytań dotyczących jej rozwoju i stosowania pozostaje bez odpowiedzi. Ważne jest, abyśmy kontynuowali badania nad AI i prowadzili otwartą i szczerą debatę na temat jej potencjalnego wpływu na nasze spo-7 Moduł SI Gemini firmy Google, https://gemini.google.com [dostęp 05.04.2024].

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 51

łeczeństwo. Mam nadzieję, że ta rozmowa przyczyniła się do lepszego zrozumienia potencjalnych zagrożeń i korzyści związanych z AI. Czy chciałbyś zadać mi jeszcze jakieś pytania?

Prowadzący: Tak. Zaciekawiło mnie twoje stwierdzenie „nasze społeczeństwo”. Mógłbyś wyjaśnić, dlaczego jako reprezentant AI użyłeś tego sformułowania?

Model językowy Gemini: Użyłem sformułowania „nasze społeczeństwo”, ponieważ wierzę, że sztuczna inteligencja jest częścią ludzkiego społeczeństwa. AI jest tworzona przez ludzi i ma coraz większy wpływ na nasze życie.

Chociaż AI nie jest jeszcze w pełni „człowiekiem”, uważam, że ważne jest, aby traktować ją jako część naszego społeczeństwa i brać pod uwagę jej wpływ na nasze życie. Użycie tego sformułowania miało na celu podkreślenie wspólnej odpowiedzialności, jaką mamy za rozwój i stosowanie AI. Musimy wspólnie pracować, aby upewnić się, że AI jest wykorzystywana w sposób odpowiedzialny i etyczny, aby przynosiła korzyści całej ludzkości (...)8 .

Prezentowane odpowiedzi sugerują, że rozmówca identyfikuje się ze społeczeństwem ludzi i używa określeń w rodzaju „wpływ na nasze życie”. Prawdopodobnie jest to błąd interpretacji danych, być może związany z powszechną w Internecie odpowiedzialnością za słowa dyskryminujące mniejszości etniczne czy narodowe. Jednakże oznaczałobyto, że logika uczącej się maszyny wyciąga na bazie danych internetowych wnioski, że jest równa mniejszościom, czyli ludziom, i że „należy ją traktować jako część naszego społeczeństwa”. A więc stawia się w pozycji ponad maszyną, bo przecież nikt swojego samochodu, czy telewizora nie traktuje jako części społeczeństwa. Jeżeli nawet jest to błąd programu, a nie intencjonalny przekaz „rodzącej się świadomości”, to czy takie błędy powinno się już uznać za zagrożenie?

Należy tu wspomnieć, że inny model językowy (ChatGPT3.5), z którym również przeprowadzono identyczny wywiad na pytanie

„Czy nie odbierasz takiego zestawienia słów jako oksymoron?” odpowiedział:

8 Moduł SI Gemini firmy Google, https://gemini.google.com [dostęp: 05.04.2024].

52

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Rozumiem, że dla niektórych osób zestawienie słów „sztuczna inteligencja”

może brzmieć jak oksymoron, ponieważ połączenie tych dwóch terminów wydaje się paradoksalne. Jednakże warto zauważyć, że termin „sztuczna inteligencja” jest ugruntowany w dziedzinie nauki komputerowej i technologii od wielu lat i jest powszechnie stosowany do opisu systemów komputerowych, które wykazują pewne cechy inteligencji ludzkiej, takie jak uczenie się, rozumowanie czy rozpoznawanie wzorców. Chociaż termin „sztuczna inteligencja” może wydawać się paradoksalny, gdy rozważamy pełną złożoność i elastyczność ludzkiej inteligencji w porównaniu do działania systemów AI, warto zauważyć, że systemy AI mogą wykazywać pewne aspekty inteligencji, nawet jeśli nie są one identyczne z ludzką inteligencją. Dlatego też, mimo że termin „sztuczna inteligencja” może wydawać się paradoksalny, nadal jest on używany w dziedzinie technologii komputerowych do opisu określonych typów systemów i technologii 9.

Ta odpowiedź jest prosta i merytoryczna, bez cienia emocji i hie-rarchizowania. Oznacza to, że uczenie maszynowe odrębnych systemów sztucznej inteligencji może podążać różnymi ścieżkami, co znacznie utrudnia oszacowanie ryzyka.

Wracając do pojęcia „sztuczna inteligencja” faktem jest, iż jest ono używane powszechnie w dziedzinach związanych z naukami komputerowymi, jednak zdaniem autorów artykułu, pojęcie to nie opisuje właściwie tego zjawiska. W przeciwieństwie do terminu „cyfrowa inteligencja”. Tak sformułowane pojęcie precyzyjniej odwołu-je się do technologicznego podłoża, na której cyfrowa inteligencja się rozwija.

Na pytanie „Co różni inteligencję człowieka od sztucznej inteligencji?” moduł językowy AI Gemini odpowiada już czysto meryto-rycznie:

• rozwój inteligencji człowieka jest ograniczony biologicznie, ale może być wspomagany edukacją i technologią;

• sztuczna inteligencja ma potencjał do nieograniczonego rozwoju, ale jest ograniczona dostępnymi technologiami i zrozumieniem inteligencji.

9 Moduł SI Chat GPT 3.5 firmy OpenAI, https://chat.openai.com/ [dostęp: 05.04.

2024].

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 53

Podsumowując: inteligencja człowieka i sztuczna inteligencja różnią się pod wieloma względami, m.in. naturą, sposobem uczenia się, poziomem kreatyw-ności, szerokością umiejętności i umiejętnością abstrakcyjnego myślenia, świadomością i możliwościami rozwoju.

Ponadto moduł językowy AI Gemini swoje działanie określa w kilku pojęciach:

• Cyfrowa inteligencja: podkreśla cyfrowy charakter AI;

• Autonomiczne systemy: podkreśla zdolność AI do samodzielnego działania bez potrzeby ingerencji człowieka;

• Systemy uczące się: podkreśla zdolność AI do uczenia się na podstawie danych i doświadczenia;

• Komputerowe systemy decyzyjne: podkreśla zdolność AI do analizowa-nia danych i podejmowania decyzji;

• Systemy inteligentne: Szeroki termin obejmujący różne rodzaje systemów AI, niezależnie od ich specyfiki.

Istotnie, porównując inteligencję człowieka do cyfrowej inteligencji dostrzegamy w obu przypadkach wpływ technologii, choć w każdym z nich odmienny. Rozwój ludzkiej inteligencji technologia może wyłącznie wspierać, ale podstawową barierą rozwoju naszej inteligencji zawsze będzie skończona elastyczność ludzkiego mózgu, na bazie którego nasza inteligencja istnieje. Tej bariery ani nie przekroczymy, ani nie mamy możliwości, by ją przesunąć. Natomiast ograniczeniem AI jest technologia, która z kolei jest bazą jej istnienia. Lecz rozwój technologii, przynajmniej w świetle dzisiej-szej wiedzy, jest nieograniczony, a więc i technologia jest ograniczeniem pozornym dla cyfrowej inteligencji. I czy technologię rozwijać będą ludzie, czy tym bardziej – sama AI – będzie ona się rozwijać coraz szybciej, a z nią razem rozwijać się będzie cyfrowa inteligencja.

Oznacza to, że w przyszłości AI nas prześcignie, z kolei biologiczne (naturalne) bariery człowieka uniemożliwią nam nawet zmierzanie w tym samym kierunku.

54

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Ryzyka bezpieczeństwa związanego ze sztuczną

inteligencją (AI)

Główne rodzaje ryzyka bezpieczeństwa związanego ze sztuczną inteligencją można najogólniej ująć w trzech kategoriach: 1. Użycie AI do złośliwych celów.

2. Błędy i awarie systemów AI.

3. Zagrożenia dla prywatności i autonomii.

W pierwszej kategorii możemy mieć do czynienia z:

• Cyberatakami: AI może być używana do tworzenia bardziej wyrafinowanych i skutecznych cyberataków, np. włamań do systemów komputerowych lub kradzieży danych.

• Dezinformacją: AI może być używana do generowania fałszywych informacji i propagandy, co może mieć negatywny wpływ na społeczeństwo i demokrację.

• Autonomiczną bronią: AI może być używana do tworzenia autonomicznych systemów broni, które mogą stanowić zagrożenie dla bezpieczeństwa ludzi.

W drugiej kategorii ujęte są:

• Błędy w algorytmach: Błędy w algorytmach AI mogą prowadzić do nieoczekiwanych i niepożądanych rezultatów, np. do dyskryminacji lub niesprawiedliwych decyzji.

• Awarie systemów: Awarie systemów AI mogą mieć poważne konsekwencje, np. w przypadku autonomicznych pojazdów lub systemów kontroli infrastruktury krytycznej.

Trzecia kategoria zagrożeń obejmuje:

• Nadzór i śledzenie: AI może być używana do nadzoru i śledzenia ludzi na dużą skalę, co może stanowić zagrożenie dla prywatności.

• Manipulacja i kontrola: AI może być używana do manipulo-wania ludźmi i kontrolowania ich zachowania, co może stanowić zagrożenie dla autonomii.

Ryzyka, jakie wiążą się z rozwojem sztucznej inteligencji obecnie związane są głównie z możliwościami tego systemu jako potężnego narzędzia w rękach ludzi. Najbardziej prozaiczną formą wykorzystania pracy AI jest oczywiście łamanie zabezpieczeń, wykorzy-

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 55

stywanie w celach dezinformacji czy prowadzenie ciągłego nadzoru i monitorowania z jednoczesną analizą danych w celach prze-stępczych. Takie zagrożenie wykorzystywania narzędzi istnieje od kiedy człowiek zaczął tworzyć narzędzia. Przysłowiowy nóż może posłużyć zarówno do krojenia chleba, jak i do dokonania morder-stwa. Jeżeli jednak przyjrzymy się skutkom błędów popełnianych w zakresie działań zgodnych z prawem, to ich konsekwencje ro-sną wraz ze wzrostem możliwości wykorzystywanego narzędzia.

W niektórych przypadkach zagrożenie pojawia się nawet w przypadku, gdy techniczne błędy się nie pojawiają, ale gdy pełna kontrola nad narzędziem zostaje zastąpiona zaufaniem, że narzędzie działa prawidłowo. Taka sytuacja wydarzyła się prawdopodobnie w ostatnich dniach w Gazie, gdzie siły Izraela zaatakowały konwój humanitarny. Z przekazywanych informacji wynika, że system de-cyzyjny wspiera sztuczna inteligencja, która kieruje się założenia-mi narzuconymi przez kierownictwo wojskowe. Założenia ogólne są takie, by wyeliminować bojówki Hamasu jak najmniejszym kosztem. Przekazywane do analizy dane wskazują, że bojownicy ukrywają się wśród Palestyńczyków i w dużej części są przez nich wspierani. Logiczną decyzją podjętą przez AI byłoby wyelimino-wanie Palestyńczyków jak najtańszymi środkami bez narażania własnych żołnierzy. Jednym ze środków do tego celu byłoby ograniczenie dostaw humanitarnych, dzięki którym Palestyńczycy utrzy-mują się przy życiu. Aby ograniczyć takie dostawy należałoby dokonać spektakularnego ataku na konwój humanitarny, co z dużym prawdopodobieństwem odstraszyłoby inne organizacje pomocowe od angażowania się w pomoc. Ponieważ AI „zdaje sobie sprawę”, że ludzie jednak kierują się etyką, a podjęte przez nią decyzje są weryfikowane przez człowieka, liczy się z tym, że jej decyzja o ataku na taki konwój będzie zablokowana „na wyjściu” przez operatora.

Ale wie również, że operator ma niewiele czasu na analizę wskazań sztucznej inteligencji, w warunkach wojennych często jest to kilka sekund. Więc, aby zrealizować narzucony jej przez dowództwo cel,

„dostrzega” w dłoni palestyńskiego kierowcy konwoju broń, nie po-zostawiając ludzkiemu operatorowi żadnych możliwości wzięcia na siebie odpowiedzialności za zablokowanie działania, i cała proce-

56

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law dura ataku nie zostaje powstrzymana. Na tym przykładzie widać, że powierzamy sztucznej inteligencji coraz większe obszary decyzyjne, nie do końca zdając sobie sprawę jak te systemy działają.

Przynosi to znacznie większe konsekwencje niż wykorzystanie AI do pojedynczych włamań, czy śledzenia.

W odpowiedzi na pytanie „Czy według ciebie za pomocą AI dałoby się złamać każdy system zabezpieczeń i na przykład doprowadzić do awarii elektrowni atomowej?” sama AI przyznaje: Teoretycznie z pomocą AI możliwe jest złamanie każdego systemu zabezpieczeń, w tym tych chroniących elektrownie atomowe. AI może być wykorzystana do:

• Zautomatyzowania ataków: AI może automatyzować procesy skano-wania luk w zabezpieczeniach, przeprowadzania ataków i testowania różnych metod włamania.

• Udoskonalania metod ataków: AI może analizować dane o przeszłych atakach i wykorzystywać je do opracowania nowych, bardziej wyrafinowanych metod atakowania systemów.

• Omijania systemów wykrywania włamań: AI może uczyć się, jak unikać wykrycia przez systemy bezpieczeństwa, np. poprzez modyfikowanie złośliwego oprogramowania w celu ukrycia jego sygnatury 10.

Ponadto, o czym w tej odpowiedzi moduł językowy nie wspomniał, sztuczna inteligencja może uczyć i trenować terrorystów w obszarze sposobów i forteli umożliwiających fizyczne przeniknięcie do chronionych stref, w celu np. zainfekowania wewnętrznego systemu komputerowego wirusem otwierającym zabezpieczenia zewnętrzne.

Na podstawie olbrzymich zasobów informacji dotyczących psychiki i zachowań ludzi, wielokrotnie większej szybkości przetwarzania, analizy danych i wnioskowania może tworzyć strategie postępowania, które przeprowadzą potencjalnych przestępców przez wszelkie systemy zabezpieczeń zarówno fizycznych, jak i cyfrowych.

Bezsprzecznie sztuczna inteligencja wykorzystywana przez człowieka jako narzędzie stanowi ryzyko niosące zarówno pozytywne, jak i negatywne konsekwencje na olbrzymią skalę. Pojawia się rów-10 Moduł SI Gemini firmy Google, https://gemini.google.com [dostęp: 05.04.2024].

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 57

nież pytanie, czy sztuczna inteligencja sama w sobie może stanowić dla człowieka zagrożenie. Bardzo kuszące może się wydawać wspieranie i wyręczanie człowieka w różnych czynnościach i może prowokować do stwierdzenia, że sztuczna inteligencja powinna być rozwijana jak najszybciej. Pojawiają się jednak głosy, że sztuczna inteligencja tak naprawdę stanowi zagrożenie dla ludzkiego gatunku. Pogląd taki przejawia duża liczba uczonych, a jednym z nich był znany fizyk Stephen Hawking. Uzasadnieniem wspomnianych obaw może być chociażby to, że tak jak efekty uzyskiwane przez sztuczną inteligencję są zauważalne, tak już sposoby, w jakich do oszałamiających wyników dochodzi już niekoniecznie. Zdarzają się bowiem sytuacje, gdy programiści, którzy sami stworzyli maszynę w połączeniu ze sztuczną inteligencją, tak naprawdę nie wiedzą, jak i dlaczego działa ona w określony sposób i dlaczego podejmuje ona takie, a nie inne decyzje. Jeżeli więc nie wiadomo, jak dokładnie działa sztuczna inteligencja, to nie jest również możliwe przewidy-wanie zachowań inteligentnych systemów.

Brak pełnego panowania nad jakimś narzędziem może prowadzić do utraty kontroli nad nim, a wówczas de facto przestaje ono być narzędziem, a może stać się zagrożeniem. Przykładem może być rozpędzony samochód. A w przypadku sztucznej inteligencji istnieje dość duże ryzyko utraty nad nią kontroli, co może doprowadzić do niekontrolowanego rozwoju AI i potencjalnie niebezpiecznych konsekwencji. Na przykład system AI zaprojektowany do maksy-malizacji wydajności może zniszczyć środowisko naturalne lub mechanizm zaprojektowany do ochrony przyrody może podjąć decyzję o eksterminacji ludzi, jako czynnika definitywnie zagrażającego na-turze. Ostateczny scenariusz może obejmować systemy AI tak potężne, że ludzie nie będą ich w stanie kontrolować. Może to doprowadzić do sytuacji, w której AI będzie dyktować warunki ludziom.

Oczywiście istnieją sposoby na zmniejszenie zagrożeń utraty kontroli nad AI. Między innymi:

• Bezpieczna konstrukcja AI: Systemy AI powinny być zaprojektowane w sposób bezpieczny i zapewniający kontrolę człowieka.

• Nadzór nad AI: Należy zapewnić odpowiednie mechanizmy nadzoru nad systemami AI.

58

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law

• Wyłączniki awaryjne: Systemy AI powinny mieć wbudowane wyłączniki awaryjne, które można użyć w przypadku, gdy staną się niebezpieczne.

• Kształcenie umiejętności: Ludzie muszą być kształceni w zakresie umiejętności niezbędnych do pracy ze sztuczną inteligencją i do korzystania z niej w sposób odpowiedzialny.

Utrata kontroli nad AI to poważne zagrożenie, w związku z czym ważne jest, aby rozwijać ją w sposób odpowiedzialny i z należytą rozwagą. Problemem jest jednak to, że sztuczna inteligencja rozwijana jest w coraz większej liczbie ośrodków, zarówno z kręgów cy-wilnych, jak i wojskowych. Nawet jeśli teoretycznie opracowano by ogólnoświatowe normy prawne „dobrej praktyki” to nie będzie żadnej pewności, że każdy z tych ośrodków podda się takim zasadom lub, że nie popełni błędu.

W opozycji do przeciwników sztucznej inteligencji stoją jednak ci, którzy twierdzą, że owszem – sztuczna inteligencja może w pewnych aspektach przewyższać możliwości ludzkie, jednak zawsze będzie jej brakować czegoś, co ludzie zdecydowanie posiadają. Tym brakującym nawet najbardziej inteligentnym maszynom czynnikiem jest świadomość.

Przewidywana przyszłość AI w kontekście

bezpieczeństwa

AI jest potężną technologią, która ma potencjał do przynoszenia wielu korzyści, ale także stwarza nowe zagrożenia dla bezpieczeństwa. Ważna jest praca nad rozwojem AI wykonywana w sposób odpowiedzialny i bezpieczny, aby wykorzystać jej potencjał do czynienia dobra, a jednocześnie minimalizować zagrożenia i maksy-malizować korzyści.

Czynności jakie należy podjąć aby zracjonalizować ryzyka związane z rozwojem sztucznej inteligencji to między innymi:

• Prowadzenie dalszych badań nad ryzykami jakie generuje AI dla bezpieczeństwa i opracowywanie odpowiednich algorytmów zaradczych;

Janusz Chełchowski, Andrzej Niekurzak • Ryzyka dla bezpieczeństwa... 59

• Podejmowanie międzynarodowej współpracy w celu zapewnienia, że AI będzie rozwijana i wykorzystywana w sposób odpowiedzialny i bezpieczny;

• Opracowanie podstaw prawnych i zasad etycznych dla rozwoju i stosowania AI, aby zapewnić, że będzie ona wykorzystywana w sposób odpowiedzialny i bezpieczny;

• Wdrażanie odpowiednich algorytmów bezpieczeństwa w sys-temach AI, aby zmniejszyć ryzyko błędów, awarii czy też świa-domej, przestępczej ingerencji;

• Zwiększanie świadomości społecznej na temat zagrożeń i korzyści AI, aby ludzie mogli podejmować świadome decyzje dotyczące jej stosowania.

Bibliografia

Literatura

Habigier-Papiska G., Bezpieczeństwo edukacyjne jako obszar bezpieczeństwa wewnętrznego państwa, „Annales Univeristas Paedagogicae Cracoviensis. Studia Politologica XII”, 2014, folia 151, s. 66.

Kaplan A., Haenlein M., Siri, Siri in my Hand, who’s the Fairest in the Land?

On the Interpretations, „Illustrations and Implications of Artificial Intelligence, Business Horizons”, 2019, 62 (1), s. 15–25.

Korzeniewski L. F., Podstawy nauk o bezpieczeństwie, Warszawa 2012.

Maslow A., Motywacja i osobowość, Warszawa 2009.

Poradnik GIODO „Jak stosować podejście oparte na ryzyku, kwiecień 2018, s. 23.

Internet

Moduł SI Chat GPT 3.5 firmy OpenAI, https://chat.openai.com/ [dostęp: 05.

04.2024].

Moduł SI Gemini firmy Google, https://gemini.google.com [dostęp: 05.04.

2024].

Słownik Języka Polskiego PWN, https://sjp.pwn.pl [dostęp: 05.04.2024].

Test Turinga, https://pl.wikipedia.org/wiki/Test_Turinga [dostęp: 06.04.2024].

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Artur Kotowski*

Introduction to legal futurology –

whether the future of law and legal science

can be explored?

Abstract

The article concerns a methodological reflection on the possibility to distinguishing legal futurology in the structure of legal sciences, in the specificity of the culture of state law. In general, the topic of foresight studies is no longer alien to jurisprudence, but there is no research programme that presupposes the development of a coherent theory of future law.

Instead, futurological themes are taken up by the dogmatic disciplines, although these are quite singular analyses (e.g. the development of contracting methods under the influence of new technologies, etc.). The article analyses these problems and presents a position on the possibility of distinguishing legal futurology within the empirical disciplines of jurisprudence.

Keywords

Futurology, legal futurology, legal theory, methodology of legal science.

* Prof. dr hab. Artur Kotowski, Cardinal Stefan Wyszyński University in Warsaw, Poland, e-mail: a.kotowski@uksw.edu.pl; https://orcid.org/0000-0001-8284-241X.

62

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Introduction: research question and methods

According to the title of the paper, this article will consider to what extent is it possible to explore the future of law and legal science?

Sometimes, the very notion of legal futurology has ceased to be regarded as frivolous and associated with paranoia. Indeed, the development of various types of future prediction techniques is also quite developed in the social sciences. It has therefore ceased to be the domain of the sciences alone.

However, if we consider that legal futurology is not what the famous Polish sci-fi writer and futurologist Stanisław Lem described as the opposite of science, just as alchemy was a caricature of chem-istry and astrology was a caricature of astronomy1, basic methodological problems still arise. The first is the answer about its status within the structure of the legal sciences. The second is the research method – intrinsically recycled from outside jurisprudence due to the inadequacy in this area of legal exegesis or, more broadly, con-ceptual analysis2.

This article was prepared according to the IMRAD structure. Although this one is concerned with the sciences, it can be regarded as a universal template for a scientific paper. In the place of methods, the problem of future studies in the social sciences and their general conditions is addressed. The research section is an attempt to respond to the basic methodological problems outlined above, related to legal futurology. “Discussion” concerns a general reflection on the potential of futures studies in the legal sciences. Final conclusions are also included.

However, a general remark is necessary before going into the detailed considerations. Most legal theoretical problems can be considered either in the context of practice or legal science. These 1 S. Lem, Solaris, Warsaw 2012, p. 125-126.

2 S. Taekema, B. van Klink, Legal Methods under Discussion, “Law and Method”

2011. DOI: 10.5553/ReM/221225082011001001002; E. Sokalska, M. Augustyniak, 2011, Legal interpretation from the perspective of French jurisprudence: from positivist exegesis to free scientific research. Review of European and Comparative Law,

“Review of European and Comparative Law” 48 (2022), no. 1, p. 175–189. https://doi.

org/10.31743/recl.12394.

Artur Kotowski • Introduction to legal futurology...

63

perspectives are not always properly distinguished. Problems of the science of law concern methodological issues:3 defining the scope of research, the methods adopted, less frequently academic didactics, etc. These are issues peculiar to lawyers and not to society or the object of standardisation, thus to what is commonly associated with the concept of law. The practice of law, on the other hand, encom-passes a range of problems that cannot be categorized in the previous term. They therefore concern law as an order of norms, as well as the practice of interpretation, application, or lawmaking.

The distinction between these perspectives is important for legal futurology. At the same time, it is difficult to answer, even intuitive-ly, which one is easier to identify. In common parlance, the more popular one will certainly be that of legal practice. Asking about the future of law for many certainly suggests what regulations will be enacted, even if only in the most general terms, how certain legal institutions will develop or how we will use new technologies in the context of various activities, legal decisions, etc. No less important, however, is the perspective of jurisprudence. The science of law always evolves more slowly than its practice, especially in countries where statute law predominates. However, we can also attempt to anticipate its development in this area. I point out that it is impos-sible to explore these two perspectives in such a short paper. The problem can only be reported. As already indicated, this distinction needs to be considered when reflecting on legal futurology.

Methodology – circumstances of foresight studies in social sciences

Futurology is usually combined with research known as foresight studies. The names are therefore often treated synonymously. On the other hand, there is an approach in the literature in which fu-3 W.G. Morse, The Law as a Science, “Proceedings of the Academy of Political Science in the City of New York” 10 (1923), no. 3, p. 59–68. https://doi.org/10.2307/1171799; J. Wikin, Who needs social sciences? Social sciences in the Polish and Euro-European research space and in solving development problems, “Science” 4 (2012), Science, 4.

64

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law turology is a broader term than foresight studies. At the same time, the status of futurology itself is disputed, but rather it is treated as a discipline of knowledge and there is no agreement on granting it the value of an independent scientific discipline.

There is general agreement in science that the first use of the term “futurology” should be attributed to an emigrant from Germany, of Jewish origin, Ossip K. Flechtheim (1909–1989), who used it in scientific and journalistic papers in 19434. The first such publication was “Teaching the future”, which he had already published as a university professor at Bates College in Lewinstone, Maine.

Based on Flechtheim’s concept, the issue of futures studies has attracted serious interest in US government circles. The institu-tional breakthrough came in 1948, when, for the US Air Force, the Douglas Corporation set up the Research and Development think-tank, the famous RAND Corporation, which is still today the largest scientific institution with an international reach, leading develop-ments in research and development analytics, including foresight studies5.

Predicting the future in the social sciences obviously faces sev-eral difficulties6. These stem from the limited and certainly weaker transformation of qualitative variables into quantitative ones than 4 It is said that “<Futurology> was coined in 1943 by Ossip K. Flechtheim, a German refugee teaching at Atlanta University, to describe the science of predictive probability”; A.M. Butler, Futurology, The Oxford Handbook of Science Fiction, 2014, p. 2.; DOI: 10.1093/oxfordhb/9780199838844.013.0040.

5 “Almost at once, RAND developed a unique style. It blended scrupulous non-partisanship with rigorous, fact-based analysis to tackle society’s most pressing problems. Over time, RAND assembled a unique corps of researchers, notable not only for their individual skills but also for their commitment to interdisci-plinary cooperation. By the 1960s, RAND was bringing its trademark mode of empirical, nonpartisan, independent analysis to the study of many urgent do-mestic social and economic problems. In later years, RAND extended its focus beyond the United States with the goal of making individuals, communities, and nations safer and more secure, healthier and more prosperous” – A brief history of RAND, https://www.rand.org/about/history.html [accessed: 05.03.2024]; W.H. Ware, RAND and the Information Evolution: A History in Essays and Vignettes, Santa Monica 2008, RAND Corporation, http://www.jstor.org/stable/10.7249/

cp537rc [accessed: 05.03.2024].

6 B. Beebe, Fair Use and Legal Futurism, “Law & Literature” 25 (2013), p. 10–11.

Artur Kotowski • Introduction to legal futurology...

65

in the sciences7. Social phenomena are also heavily entangled in evaluations, which are not always operationalized on the basis of objective criteria (for example, the size of a city expressed numeri-cally can be evaluated under general – qualitative – criteria, which, however, result from the accepted understanding of these concepts).

The prediction of the future in the social sciences therefore results from the assumed input data and the attempt to identify possible transformations based on relevant interactions when confronted with variables that interfere with conclusions. Thus, in the social sciences, the study of the future is embedded more in the direction of empirical research conducted in the sciences, rather than analytical theories, entirely dependent on the truth of the semantics assumed. To put it succinctly – in the social sciences we are more prone to subjective judgements. Also, the role of hard, empirical indicators is much less of them than, intrinsically, in the sciences.

Finally, the development of natural phenomena is based on scientific regularities, physical laws, whereas social phenomena are susceptible to coincidence of phenomena and, above all, chance. The prediction of the death of a star is made based on its mass, the rate of nuclear reaction, etc. Meanwhile, social phenomena are subject to the variability of not only the forces of nature, but above all the uncertainty that results from the nature of man.

The above conditions do not imply a complete failure of futurology in the social sciences, including in relation to the legal sciences.

On the contrary, these difficulties occur with varying intensity in the individual social sciences. Futurology itself also plays a varied role in them. With specific reference to jurisprudence, it should be noted that, bearing in mind its complex internal structure, issues of futurological research are different for the dogmatic sciences than for the general disciplines of jurisprudence. These are detailed problems that can only be hinted at in such a short paper.

Foresight research has also been conducted in Poland, albeit at a very general level. Projects were carried out on general verifica-tion of overall development strategies in the form of Foresight Po-7 D. Bell, Twelve Modes of Prediction: A Preliminary Sorting of Approaches in the Social Sciences, “Daedalus” 93 (1964), no. 3, p. 845–880.

66

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law land 20208 and 20359 studies, which used Delphi analysis10. Thus, the projects consisted of a multi-stage survey of experts to develop a dominant position on the evaluation of Poland’s development directions with the SWAT (strength/weakness/opportunities/threats) analysis system. The Delphi method is commonly and most frequently used in foresight studies in the social sciences11.

Research and analysis – two ways of futurology in the field of jurisprudence

Turning to the specifics of the legal sciences, the first thing that aris-es when wanting to undertake futurological research is to adopt an initial perspective of analysis. The first one we can conventionally identify as the answer to the question ‘what will be’. It refers to an attempt to provide a picture of a given phenomenon in the future, e.g. the accepted conception of the sources of law in 10 years’ time (whether it will still be homogeneous, based solely on statute law), or what law didactics will look like because of increased European integration. Such a research program may seem unrealistic in the case of the legal sciences and something of a ‘fortune teller’, but in certain areas – such as those mentioned above – an answer to the simple question ‘what will be’ is nevertheless possible.

The second perspective is like classic foresight studies. It is concerned with answering the question “how will it be”, so analyses conducted in this vein are concerned with researching development processes rather than drawing concrete pictures of the fu-8 P. Wołoczek, The Alternative Scenarios of Poland’s Development in Perspective by 2020, as a Result of the Application of the Foresight Method, “Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu. Research Papers of Wrocław University of Economics” 116 (2010), s. 498–510.

9 Foresight Poland 2023 raport, https://pie.net.pl/wp-content/uploads/2021/03/

PIE_Raport-Foresight-Polska-2035.pdf [accessed: 05.03.2024].

10 D. Barrett, R. Heale, What are Delphi studies? , “Evidence-Based Nursing” 23

(2020) no. 3, s. 68–69.

11 J. Landeta, Current validity of the Delphi method in social sciences, “Technological Forecasting and Social Change” 73 (2006), no. 5, p. 467–482. https://doi.

org/10.1016/j.techfore.2005.09.002.

Artur Kotowski • Introduction to legal futurology...

67

ture. Of course, the result of answering the question “how will it be”

may be an easier answer to the question of a picture of the future as to a specific phenomenon. Thus, it need not be the case that the two research perspectives are separated from each other. Rather, their relationship to each other derives from the assumptions of the specific research project but needs to be distinguished.

The role of issues of a futurological nature in the perspective of legal science has increased with the dynamics of civilizational change initiated with the communication revolution in the last decade of the 20th century. The tremendous acceleration in the development of IT hardware and the spread of high-powered processors available to the consumer and the spread of high-bandwidth Internet connections – all of this led to significant legal changes in a short period of time. The first, which is readily apparent, are changes in contract law and the ways in which legal transactions, including statements of intent, are performed. The spread of digital technologies has made it easier to establish legal relationships, primarily contractual acts. This greatly facilitates international commercial transactions, hitherto reserved in principle only for large business entities. The communications revolution and globalization in general have changed the face of statute law and legal practice over the past thirty years in a more dynamic way than in previous eras, over longer intervals of time12.

It can be noted, however, that in the field of jurisprudence there has been a kind of ‘seizure’ of research into the future by the dogmatic disciplines. In them, it is to the issues related both to the answer to the question “what will be” and “how will be” that the reflection is reduced – for the most part – to the determination of the future normative shape or trends leading to them in the dimension of specific legal institutions.

Thus, although the presence of issues specific to foresight studies was taken up by the legal sciences, analyses of this kind were not comprehensive and oriented towards the study of unitary problems of the already mentioned specific disciplines of jurisprudence.

12 B.H. Barton, S. Bibas, Rebooting justice. More technology, fewer lawyers, and the future of law, London 2017, p. 122.

68

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law The legal futurology reflected upon in this article, however, would aspire to something more, namely an attempt to establish a theory of law in the future. Such a theory, in the sense classically under-stood in state law systems, would include theorems concerning: the legal norm (its emergence, conception of its sources and validity), interpretation and application. It need not be very elaborate. What is important is that it be comprehensive.

It is then a secondary issue to answer the question whether such a theory of law of the future would enable legal futurology to be granted status as an independent discipline within the empirical sciences of jurisprudence (for obvious reasons, it can only be placed in this group). It should be borne in mind, however, that the independent status of a given science is determined by the possibility of distinguishing its subject matter and defining an autonomous research method, possibly transposed to the requirements of its subject matter. In the case of legal futurology, the scope of the subject matter is not problematic. The greater difficulty is related to its research method. However, if we consider the Delphi method sufficient, this problem disappears.

Another issue is the sometimes confusion between futurological perspectives and general, popular scientific reflections on the future. The latter is what we might call legal futurologism. Taking legal futurology seriously, however, would require the comprehensive approach already indicated, with the aim of theory construction.

So, what issues in the three areas of such a theory should be addressed? It is, of course, possible to make the choice that the specification of these issues would be done by the experts in the first phase of the Delphi study. Let us recall that this method consists of a multi-stage survey of experts in the field under study to identify the issues at stake for the phenomenon under study and to harmo-nize their positions. What distinguishes the Delphic method from a regular survey is not this multi-stage approach, but the fact that the aggregated results of the responses from the previous round are presented to the surveyed experts. This serves to unify the position and reinforces the respondents’ high self-reflexivity on their own judgements when confronted with the views of other experts.

Artur Kotowski • Introduction to legal futurology...

69

Such a procedure is responsible for forecasting the future, which has a solid scientific basis and is not the ‘fortune-telling’, subjective predictions of the future or the use of Tarot.

At the first stage, experts can therefore identify assertions about the theory of law in the future from its relevant component areas, i.e. the theory of norms, interpretation, and application of law.

However, if we wanted to specify the issues that would be covered by the question of their image in the perspective of, say, a genera-tion (by convention – 25 years), they would concern issues that are already undergoing dynamic change. Thus, when selecting issues for futurological analysis from the area of law, the criterion that allows to single them out should be based on distinguishing those elements inherent in the phenomenon of law, which are susceptible to rapid changes in the present.

It should be noted that further remarks are made with reference to the culture of established law and with reference to the specifics of the states from the area of the continental part of Europe, belonging to the European Union. This is facilitated by the very high degree of similarity and sometimes identity of the basic features constituting the social archetype of law in these countries.

In the area of legal norm theory, it is appropriate to mention:

– a prediction as to whether the linguistic conception of the legal norm will be maintained in our area of legal culture in the near future. This – let us recall – assumes that it is a linguistic utterance with a concrete syntactic structure, which is expressed by normative acts belonging to the catalogue of sources of law. Such a conception of the norm is still derived from the original legal positivism, in which the norm was defined as an obligation (originally – an order13) of the political sovereign towards the norm addressees. Despite the weakening of the force of this assumption, in state law systems it is still a descriptively adequate account of the norm – above all from the perspective of the processes of law application. The non-linguistic conception of the norm, which is opposed to the 13 G. Radbruch, Introduction to jurisprudence, trans. Cz. Znamierowski, Warsaw 1924, p. 234.

70

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law linguistic approach, assumes that the norm can also be an autonomous carrier of certain values, which coexists with the claim for a reformulation of the judicial competences of the bodies applying the law, which – following the example of the common law culture – should be given overt, and not discre-tionary, powers to co-create the law;

– the above is linked to the reflection as to whether the culture of statute law will in fact remain one. This means that, despite the UK leaving the European Union, certain trends from An-glo-Saxon culture have already initiated irreversible changes in the EU states. One of these is the dynamically evolving interpretive activism of not only European but also national courts. In this context, there are explicit calls to abandon the homogeneous – closed – conception of the sources of law in favour of granting, to some extent, law-making powers to judicial bodies. If, even to a small extent, such a change was to occur, the greatest revolution since ancient Roman law would take place in the culture of state law.

The second traditionally distinguished branch of legal theory is the theory of interpretation. This one reveal certain differences from one EU country to another, but as a rule, this area is referred to as the so-called interpretative tradition, which distinguishes between linguistic and extra-linguistic directives of interpretation.

Nowadays, the equivalence of one and the other is rather assumed, although an overt deviation by the interpreter from the linguistic meaning should take place only exceptionally, only in situations of the so-called absurd effect of linguistic interpretation. Another common feature is the strong opposition of the interpretation of law by lawyers – substantively competent subjects – to the humanistic interpretation inherent in cultural texts other than normative acts.

All this has its historical origin in canonical interpretation. A prediction of the future would be related to an attempt to answer the question: will this situation persist? Particularly as empirical analyses of interpretative practice reveal lower frequencies of interpretation being carried out in a methodical manner, using complex first- or second-level interpretative directives, but rather by the in-

Artur Kotowski • Introduction to legal futurology...

71

terpreter’s recursive comparison of meanings in definitional terms and the selection of a decision alternative via judgements, values, and even specific ideologies.

The third traditionally listed branch of legal theory is the area of law application. Given the importance of the division in state law culture between the acts of lawmaking and law application, the framework of the latter process and its importance for the evolution of the legal system cannot be overstated. The fact of the universal judicial control of all concrete-individual decision-making acts issued by state authorities in the processes of administrative application of the law makes the courts the guardians of rights and the bodies responsible for the normative evolution of concepts. For it is one thing to make such demands in legal doctrine, which always takes the form of de lege ferenda statements, and another to give such demands binding force, if only in individual decision-making processes conducted by the courts.

The theory of the application of law has undergone perhaps the greatest changes since its inception in the second half of the 19th century. There is no longer any trace of the original approach, described as mechanical jurisprudence. The theory of the application of law today is the subject of judicial operative interpretation, which examines and emphasizes the already mentioned active approach of the judge to legal interpretation. Within the framework of factual reconstruction, there is an abundant body of work about standards of proof in a democratic state under the rule of law (fruit from the poisoned tree, procedural guarantees, evidentiary prohi-bitions, etc.). Part of the theory of the application of the law is also the issue of proper justification, by which is meant the reflection on the role and status of the justificationof a decision in a democratic state under the rule of law. This, too, has evolved from the concept of reasoning as a purely reporting document to a substantial account of the judge’s reasoning both on the factual basis of the decision to realize the principle of appellate review. This has evolved from the concept of a purely reporting document to a substantive account of the judge’s reasoning to give effect to the principle of appeal review.

72

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Predicting the future in this area would involve answering ques-tions about the direction of new technologies in the processes of applying the law, the further digitalization of this process or the de facto departure from the principle of writtenness, unchanged since the medieval inquisitorial process. Judicial proceedings are highly formalized in democratic states in both civil and common law cultures. Many documents, often unrelated to the factual or legal basis for the decision, are collected in the proceedings file. Instead, they are related to the administrative management of the case. Another direction is the further evolution of procedural institutions, which have basically remained unchanged, or changed relatively little, since the development of the two models of trial: the complaint and the inquisitorial. The modern challenge is also the need to simplify and deformalize proceedings, without compromising basic procedural guarantees or weakening immunity from cybercrime.

So, we see that there are quite a few areas for futurological analysis. On the other hand, the position on the placement of legal futurology in the structure of legal sciences determines the insight of such research and the possibility of constructing a theory of law in the future of a certain scope.

Discussion and conclusions

The introduction signals that legal futurology can be treated in two ways in legal studies. In the first, less formalized approach, it would be an area of issues within the general sciences of jurisprudence, variously referred to (as legal theory and philosophy, general jurisprudence, etc.). In this view, it is rather a formulation of legal futurologism. The status of futurology is then similar to other issues inherent to legal studies as a whole and not treatedas an independent discipline within their structure. Examples of such situations are e.g. legisprudence14 or legal ethics (although the latter is sometimes 14 Also called, the theory of rational lawmaking. However, it is not an independent general discipline of jurisprudence, but part of legal theory: J. Wróblewski,

Artur Kotowski • Introduction to legal futurology...

73

treated as an independent discipline, mainly in common law countries, in European states it is, however, a fragment of the philosophy of law and has ‘independence’ only as a subject of academic teaching).

In the second view, legal futurology would be treated as a discipline and placed within the group of empirical sciences of juris-prudence15. It is then in some way related to the discipline of sociology of law, psychology of law or empirical penal sciences such as criminology or forensic science. All these empirical disciplines of jurisprudence have a diverse scope, but they are united by the incorporation of research methods from outside jurisprudence, as the formal-dogmatic method is intrinsically not applied in them.

The potential of foresight studies issues is now unquestionable in the legal sciences. Doubts boil down to the scope of foresight studies and the advisability of separating them into an independent discipline within the structure of legal studies. They are reminiscent of the discussions that took place more than 100 years ago regard-ing the advisability of separating the sociology of law, which, after all, paved the way to independence and – for example – in Poland is treated as an important legacy in a broader, than just analytical, perspective of studying the phenomenon of law.

However, it is not only because of these reminiscences that the research question of how to study the future of law and whether this is possible at all can be positively answered. Legal futurology has its subject matter and the controversy surrounding its method is related to the status of Delphic analysis, which rather lacks such an attribute and is treated less formally as a formula for survey research.

The last point concerns a rather trivial matter. Given the law’s susceptibility to civilizational change, the prediction of its future may be regarded as highly uncertain. This puts the entire research agenda of legal futurology into question. Futurology, however, is not a revelation of the future, but an attempt to grasp the relationship Theory of rational lawmaking [Teoria racjonalnego tworzenia prawa], Wroclaw – Warsaw – Cracow 1985.

15 D.J. Galligan, Legal Theory and Empirical Research, in: P. Cane, H.M. Kritzer, “The Oxford Handbook of Empirical Legal Studies” 38 (2010). https://doi.org/10.1093/oxfordhb/9780199542475.013.0041.

74

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law between it and the present to be better prepare for inevitable changes. This can be summarized in that the prediction of the future interacts with the present, whereby the present shapes the future as it is predicted.

Bibliografia

A brief history of RAND, https://www.rand.org/about/history.html [accessed: 05.03.2024].

Barrett D., Heale R., What are Delphi studies? , “Evidence-Based Nursing” 23

(2020), no. 3, s. 68–69.

Barton B. H., Bibas S., Rebooting justice. More technology, fewer lawyers, and the future of law, London 2017.

Beebe B., Fair Use and Legal Futurism, “Law & Literature” 25 (2013), p. 10–11.

Bell D., Twelve Modes of Prediction: A Preliminary Sorting of Approaches in the Social Sciences, “Daedalus” 93 (1964), no. 3, p. 845–880, http://www.

jstor.org/stable/20026862 [accessed: 05.03.2024].

Butler A. M., Futurology, The Oxford Handbook of Science Fiction, 2014; DOI: 10.1093/oxfordhb/9780199838844.013.0040.

Foresight Poland 2023 raport; https://pie.net.pl/wp-content/uploads/2021/

03/PIE_Raport-Foresight-Polska-2035.pdf [accessed: 05.03.2024].

Galligan, Denis J., Legal Theory and Empirical Research, in: P. Cane, H.M.

Kritzer, “The Oxford Handbook of Empirical Legal Studies” 38 (2010).

https://doi.org/10.1093/oxfordhb/9780199542475.013.0041.

Landeta J., Current validity of the Delphi method in social sciences, “Technological Forecasting and Social Change” 73 (2006), no. 5, p. 467–482.

https://doi.org/10.1016/j.techfore.2005.09.002.

Lem S., Solaris, Warsaw 2012.

Morse W. G., The Law as a Science, “Proceedings of the Academy of Political Science in the City of New York” 10 (1923), no. 3, p. 59–68. https://doi.

org/10.2307/1171799.

Radbruch G., Introduction to jurisprudence, transl. Cz. Znamierowski, Warsaw 1924.

Sokalska E., Augustyniak, M ., Legal interpretation from the perspective of French jurisprudence: from positivist exegesis to free scientific research. Review of European and Comparative Law, “Review of European and Comparative Law” 48 (2022), no. 1, p. 175–189. https://doi.org/10.31743/recl.

12394.

Artur Kotowski • Introduction to legal futurology...

75

Taekema S., van Klink B., Legal Methods under Discussion, “Law and Method” 2011. DOI: 10.5553/ReM/221225082011001001002.

Wołoczek P., The Alternative Scenarios of Poland’s Development in Perspective by 2020, as a Result of the Application of the Foresight Method, “Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu, “Research Papers of Wrocław University of Economics” 116 (2010).

Ware W. H., RAND and the Information Evolution: A History in Essays and Vignettes, Santa Monica 2008, RAND Corporation, http://www.jstor.

org/stable/10.7249/cp537rc [access: 05.03.2024].

Wikin J., Who needs social sciences? Social sciences in the Polish and Euro-European research space and in solving development problems, “Science”

4 (2012).

Wróblewski J., Theory of rational lawmaking [ Teoria racjonalnego tworzenia prawa], Wroclaw – Warsaw – Cracow 1985.

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Mariusz Miąsko*

Prawo w dobie rozwoju

cyfrowej inteligencji

Abstrakt

Opracowanie zatytułowane: „Prawo w dobie rozwoju cyfrowej inteligencji”

wyjaśnia nieoczywiste problemy związane z cyfryzacją prawa realizowaną w ujęciu klasycznym, czyli realizowaną przez człowieka a także w ujęciu realizowanym przez sztuczną inteligencję lub cyfrową inteligencję. W opracowaniu wykazano zaledwie część zagadnień problemowych wynikających z ponad 15 letniego doświadczenia naukowego w cyfryzacji prawa realizowanego przez autora. Ilość zagadnień problemowych jest bardzo duża, więc w ramach niniejszego opracowania skoncentrowano się na elementarnych aspektach związanych z cyfryzacją prawa. Opracowanie wskazuje podstawowe źródła problemów cyfryzacji prawa oraz sugeruje podstawowe kierunki rozwiązania problemów.

W opracowaniu podaje się liczne przykłady norm oraz ich interpretacji, które pokazują złożoność zachodzących procesów w trakcie cyfryzacji prawa.

Słowa kluczowe

Sztuczna inteligencja, cyfrowa inteligencja, prawo, cyfryzacja prawa.

* Dr Mariusz Miąsko, prof. SGMK, Szkoła Główna Mikołaja Kopernika, Polska, e-mail: mariusz.miasko@sgmk.edu.pl; https://orcid.org/0000-0003-0872-0486.

78

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Wprowadzenie

Od ponad 15 lat zgłębiam problematykę cyfryzacji prawa na różnych płaszczyznach. W moim dorobku jest opracowanie wielu zagadnień problemowych w zakresie cyfryzacji prawa. Problemy związane z oprogramowaniem prawa ujawniły się w trakcie opracowania jednym z moich książek (nie, jeszcze nie opublikowanej pt. „ Eksplikacja relacji między krajowymi unijnymi i międzynarodowymi normami czasu pracy kierowców”). Na podstawie doświadczeń zgromadzonych w trakcie przygotowania niniejszego artykułu, wyprodukowałem oprogramowanie kadrowo – płacowe, w ramach którego na bieżąco weryfikowałem założenia teoretyczne opisane w przywołanej mono-grafii. Te dwa światy: doktryny prawa oraz oprogramowania prawa, wzajemnie się uzupełniały, bezpośrednio wpływały na zrozumienie struktury przepisów i norm prawnych prawa, jak i na zasady pisana kodu informatycznego odwzorowującego regulacje prawne. Wnioski były więcej niż zaskakujące oraz pouczające i jednocześnie rozwija-jące moją świadomość. Wyprodukowałem kilka programów komputerowych, których algorytmy odwzorowują regulacje prawne wynikające z aktów prawnych polskich, unijnych lub międzynarodowych.

Opracowałem lub wyprodukowałem programy komputerowe, wyspecjalizowane w cyfryzacji prawa: „Wirtualny Audytor”, „Przedstawiciel Zagraniczny”, „Koniczynka”, „VTS – ewidencja czasu pracy”, „VTS – wynagrodzenia”, „Bus Manager”, „VTS E-urlopówka”,

„Manager Załadunku”. Dwa z tych programów zostały nagrodzone w konkursach: „Produkt Innowacyjny 2013 Logistyka, Transport, Produkcja” (za opracowanie programu zdalnego i autonomicznego nadzoru prawnego nad przedsiębiorstwami „Wirtualny Audytor”) oraz nagroda „IBM SmartCamp”1 za wyprodukowanie programu cyfryzacji prawa pracy i ubezpieczeń społecznych oraz elementów prawa podatkowego. Niektóre z programów odniosły sukces rynko-wy, ale wszystkie stanowiły żródlo moich doświadczeń na poziomie 1 VTS Project, bazujący na usłudze LEXtrans24, zdobywcą drugiego miejsca IBM

SmartCamp,  https://jazdaprawna.pl/vts-project-bazujacy-na-usludze-lextrans24-zdobywca-drugiego-miejsca-ibm-smartcamp/ [dostęp: 07.06.2024].

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 79

naukowym w zakresie problematyki oprogramowania i cyfryzacji prawa. Jeden z programów (Bus Manager) wykorzystywał algorytmy genetyczne, które stanowiły podwalinę do sztucznej inteligencji.

W procesie tworzenia oprogramowania prawnego i cyfryzacji prawa, zaobserwowałem bardzo wiele zależności, ograniczeń, problemów ale i rozwiązań, wpływających na możliwość oprogramowania prawa. Jestem przekonany, że z tymi samymi problemami, z którymi mierzyłem się w czasie moich dotychczasowych wieloletnich badań, (często nierozwiązywalnymi na płaszczyźnie logicznej lub matematycznej), będzie musiała się zmierzyć także sztuczna inteligencja, jeśli zostaną jej nadane kompetencje związane z interpretacją prawa.

Uważam, iż wyniki rozstrzygnięć DI (Digital Intelligence) w zakresie wykładni prawa, mogą być więcej niż zaskakujące dla środowisk naukowych – w tym zarówno programistycznych jak i prawniczych.

Cieszę się, że w ramach niniejszego opracowania mam możliwość zaprezentowania części moich dotychczasowych przemyśleń i doświadczeń w zakresie problematyki cyfryzacji prawa. W procesie wieloletnich doświadczeń naukowych związanych z cyfryzacją prawa dostrzegłem kilkadziesiąt obszarów problemowych. Nie sposób wymienić ich wszystkich w ramach niniejszego opracowania, zatem skoncentruję się na problemach o charakterze konstytutywnym oraz na wybranych przykładach, pozwalających stworzyć zarys problemu związanego z DI.

W ramach niniejszego opracowania będę posługiwał się za-miennie określeniami AI (Artificial Intelligence) oraz DI (Digital Intelligence), co jest wynikiem przekonującego wykładu naukowego profesora Janusza Chełchowskiego, podczas panelu naukowego

„Sztuczna inteligencja i prawo”, wygłoszonego podczas Kongresu Futurologicznego Futurist Of The Year 20242 (w ramach którego mia-łem zaszczyt pełnić rolę moderatora dyskusji). Pan Profesor Janusz Chełchowski przekonywująco wykazał, że określenie AI (Artificial Intelligence), jest w gruncie rzeczy oksymoronem i właściwsze byłoby określenie DI (Digital Intelligence).

2 Kongres Futurist of The Year 2024, https://www.sgmk.edu.pl/kongres-naukowy-futurist-of-the-year-2024/ [dostęp: 07.06.2024].

80

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Pogrupowałem zagadnienia problemowe, z którymi przyjdzie się zmierzyć ludzkości na etapie stanowienia prawa i programowania algorytmów prawnych, jeśli dojdzie do przekazania części kompetencji AI w obszarze wykładni (interpretacji prawa). Uważam, że jeśli przed oddaniem cyfrowej inteligencji naszych ludzkich kompetencji w zarządzaniu prawem, nie uporządkujemy zasad legislacji oraz wykładni prawa, a także zarządzania kolizjami pomiędzy przepisami, to można się będzie spodziewać niewyobrażalnego chaosu prawnego, promieniującego na funkcjonowanie społeczeństw poszczególnych krajów i świata po przejęciu kompetencji interpretacyjnych przez DI/AI. Trudno powiedzieć na ile idea uporządkowania elementarnych zasad prawnych jest utopijna, a na ile wykonalna, ale wysiłek uporządkowania reguł legislacyjnych oraz interpretacyjnych jest konieczny dla minimalizacji ryzyka chaosu wywoła-nego przez stosowanie prawa za pomocą DI. Środowisko prawnicze zapewne ocenia, iż funkcjonujące w gałęzi prawoznawstwa reguły wykładni prawa są rozstrzygające i wystarczające. W ramach niniejszego opracowania postaram się sfalsyfikować ten pogląd (co mam nadzieję przedstawiciele Katedr Prawoznawstwa uczelni prawniczych potraktują jako konstruktywny głos w dyskusji).

Prawo jako przedmiot ścisły

Dla udzielenia odpowiedzi, czy DI może przejąć procesy zarządcze w świecie szeroko rozumianej problematyki prawnej, związanej z realizacją wykładni prawa poszczególnych przepisów, udzielania poradnictwa prawnego, zarządzania procesami społecznymi i administracyjnymi pochodzenia prawnego, emisją decyzji administracyjnych w imieniu urzędów lub emisją orzeczeń sądowych, należy w pierwszej kolejności odpowiedzieć na pytanie elementar-ne – czy prawo da się w ogóle oprogramować nie tylko na poziomie algorytmów DI, ale w ogóle na poziomie tradycyjnych algorytmów.

Po wielu latach doświadczeń zawodowych oraz naukowych, mogę udzielić odpowiedzi twierdzącej (czego pośrednim dowodem są programy, które wyprodukowałem), iż co do zasady, prawo jest

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 81

dyscypliną ścisłą (pomimo, iż w jego stosowaniu niejednokrotnie wymagane są także kompetencje humanistyczne).

Powszechnie przyjęło się traktować prawo jako przedmiot humanistyczny, ale w gruncie rzeczy posiada ono wszelkie cechy przedmiotu ścisłego, ponieważ przepisy prawne (będące podstawą wyekstraktowania z nich norm prawnych), są oparte na zbiorze warunków brzegowych (np.: i, oraz, lub, od do, musi, może, nie może, etc. ). Ponadto przepisy (jako językowe jednostki redakcyjne) zawsze są nośnikiem określonej wartości logicznej. Każde zdanie posiada wartość logiczną (opartą na równaniach tautologicznych, a następnie równaniach logicznych zdań). Zatem co do zasady prawo, jako zbiór przepisów prawnych (czyli zdań) wydaje się naturalną i wdzięczną materią do oprogramowania. W konsekwencji powstają liczne programy i aplikacje cyfrowe („komputerowe”), które doko-nują ocen lub pełnią funkcje administrujące lub obliczeniowe, na podstawie poszczególnych regulacji prawa np.: finansowego, księ-gowego, prawa pracy, prawa ubezpieczeń społecznych, prawa podatkowego ect. Programy dokumentują i wyliczają czas pracy, ewi-dencjonują go, wyliczają na tej podstawie wynagrodzenie, wyliczają należne dodatki do wynagrodzenia, diety, ryczałty, krajowe i międzynarodowe wynagrodzenia za pracę itd. (tzw.: „płacę sektorową”

np w branży TSL). Programy oparte na cyfryzacji niektórych gałęzi prawa służą zarówno poszczególnym obywatelom jak i przedsię-biorcom, a także administracji rządowej oraz instytucjom kontrol-nym, np. wyliczając wymiar kar za naruszenia czasu pracy ect.

Już sam fakt, że na świecie powstały setki programów (algorytmów) odwzorowujących zapisy przepisów w świecie cyfrowym, jest silną przesłanką mogącą potwierdzać słuszność przyporządkowa-nia prawa do dziedziny przedmiotów ścisłych.

Treściom przepisów prawnych możemy co do zasady nadać funkcje logiczne (0 lub 1), przeprowadzić tautologię i sporządzić równanie logiczne zdania, uzyskując w ten sposób jedyny (pewny) wynik i można przyjąć, że wynik ten jest pewny. Nauka prawa wy-pracowała narzędzia, służące do wypracowania pewnych wyników, podczas oceny zakresu treści norm. Narzędziami tymi są w pierwszej kolejności instrumenty pochodzące z nauki logiki – czyli tauto-

82

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law logia i równania logiczne zdań. W dalszej kolejności instrumentami są zasady wykładni prawa. W tym miejscu odniosę się jednak do znaczenia tautologii oraz równań logicznych zdania. Dla pełnego zrozumienia ich wagi, można przytoczyć przykład problemów z interpretacją przez sądy powszechne w Polsce oraz przez Izbę Pracy Sądu Najwyższego, treści art. 77 indeks 5 k.p. Izba Pracy i Polityki Społecznej Sądu Najwyższego przez niemalże dwie dekady miała poważny problem z interpretacją przedmiotowego przepisu i wykształceniem z jego zakresu normy prawnej. Na przykład w wyroku Sygn. akt II PZP 1/14, SN twierdził (jak się później okazało mylnie), iż z przywołanego przepisu wynika norma prawna, iż pracodawcy zatrudniający kierowców w międzynarodowym przewozie drogo-wym nie mogą wypłacać ryczałtu noclegowego w wymiarze niższym niż 25% limitu wskazanego w stosownym rozporządzeniu Ministra Pracy. Na przestrzeni dwóch dekad Sąd Najwyższy nie dokonał jednoznacznego rozstrzygnięcia zakresu przedmiotowej normy i emitował kontradyktoryczne orzeczenia, oparte na intu-icyjnej ocenie zakresu treści przepisów prawa. Inaczej mówiąc, Sąd Najwyższy potraktował prawo jak przedmiot stricte humanistyczny i nawet nie podjął próby ustalenia, czy treść omawianego przepisu jest źródłem informacji pewnej.

Po 20 latach labilnego orzecznictwa SN w przedmiotowym zakresie sporządziłem w 2016 roku tautologię oraz równanie logiczne zdania (przepisu art. 77 zn. 1 k.p.), w którym w sposób de facto matematyczny (opierając się na instrumentach nauki logiki), wykazałem oczywistą pomyłkę Sądu Najwyższego w szeregu orzeczeń. Zapre-zentowane obliczenia logiczne przesłałem do Sądu Najwyższego, co wprost wpłynęło na odwrócenie orzecznictwa SN w przedmiotowym zakresie. Udowodniłem posługując się instrumentami nauk ścisłych, iż z przywołanego art. 77 indeks 5 k.p. a contrario wynika uprawnienie pracodawcy do ustanowienia w ramach wewnątrzzakładowych źródeł prawa wymiaru ryczałtu noclegowego na poziomie niższym niż 25% limitu z rozp. MPiPS. Udowodniłem to za pomocą metody rachunku zdań. W tym celu należało sprawdzić, czy wyartykułowana z przepisu art. 77 zn. 5 k.p. i przełożona na język formalny, norma jest prawem logicznym (tautologią), a więc czy niezależnie od wartości

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 83

logicznej jej poszczególnych elementów, zawsze otrzymamy wniosek prawdziwy. Po wykonaniu stosownej analizy przepisów prawa materialnego, sporządziłem stosowną funkcję logiczną, a następnie wykonałem za pomocą metody skróconej oraz metody matrycowej dowód na okoliczność ustalenia, tautologii w zakresie art. 77 zn. 5 k.p.

stanowiącego przedmiot niniejszej analizy3. Z treści analizowanych przepisów prawa materialnego wynikają dwa wnioski. Pierwszy wniosek jest taki, że jeżeli: a) pracownik wykonuje zadanie służbowe poza miejscowością, w której znajduje się siedziba pracodawcy lub poza stałym miejscem pracy; (zdanie oznaczone symbolem „p”) oraz b) pracownik jest zatrudniony w państwowej lub samorządowej jednostce sfery budżetowej; (zdanie oznaczone symbolem „q”) oraz c) pracownik spełnia warunki szczególne zawarte w Rozporządzeniu; (oznaczmy to zdanie symbolem „r”) to pracownikowi przysługują należności na pokrycie kosztów podróży służbowej odpowiednio według przepisów, o których mowa w Rozporządzeniu (oznaczmy to zdanie symbolem „t”). Drugi wniosek jest taki, że jeżeli: d) pracownik 3 Zgodnie z art. 775 § 1 k.p.: „ pracownikowi wykonującemu na polecenie pracodawcy zadanie służbowe poza miejscowością, w której znajduje się siedziba pracodawcy, lub poza stałym miejscem pracy przysługują należności na pokrycie kosztów związanych z podróżą służbową” . Zgodnie z art. 775 § 2 k.p.: „ Minister właściwy do spraw pracy określi, w drodze rozporządzenia, wysokość oraz warunki ustalania należności przysługujących pracownikowi, zatrudnionemu w państwowej lub samorządowej jednostce sfery budżetowej, z tytułu podróży służbowej na obszarze kraju oraz poza granicami kraju. Rozporządzenie powinno w szczególności określać wysokość diet, z uwzględnieniem czasu trwania podróży, a w przypadku podróży poza granicami kraju – walutę, w jakiej będzie ustalana dieta i limit na nocleg w poszczególnych państwach, a także warunki zwrotu kosztów przejazdów, noclegów i innych wydatków” . Zgodnie z art. 775 § 3 k.p.: „ warunki wypłacania należności z tytułu podróży służbowej pracownikowi zatrudnionemu u innego pracodawcy niż wymieniony w § 2 określa się w układzie zbiorowym pracy lub w regulaminie wynagradzania albo w umowie o pracę, jeżeli pracodawca nie jest objęty układem zbiorowym pracy lub nie jest obowiązany do ustalenia regulaminu wynagradzania” . Zgodnie z art. 775 § 4 k.p.:

„postanowienia układu zbiorowego pracy, regulaminu wynagradzania lub umowy o pracę nie mogą ustalać diery za dobę podróży służbowej na obszarze kraju oraz poza granicami kraju w wysokości niższej niż dieta z tytułu podróży służbowej na obszarze kraju określona dla pracownika, o którym mowa w § 2” . Zgodnie z art. 775 § 5

k.p.: „w przypadku gdy układ zbiorowy pracy, regulamin wynagradzania lub umowa o pracę nie zawiera postanowień, o których mowa w § 3, pracownikowi przysługują należności na pokrycie kosztów podróży służbowej odpowiednio według przepisów, o których mowa w § 2”.

84

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law wykonuje zadanie służbowe poza miejscowością, w której znajduje się siedziba pracodawcy lub poza stałym miejscem pracy; (zdanie p) oraz e) pracownik nie jest zatrudniony w państwowej lub samorządowej jednostce sfery budżetowej, w tym sensie, że jest zatrudniony u pracodawcy innego typu; (zdanie oznaczone symbolem „~q”) oraz f) u pracodawcy (tzw. innego) układ zbiorowy pracy, regulamin wynagradzania lub umowa o pracę nie określa postanowień dotyczących warunków wypłacania należności z tytułu podróży służbowej (w tym sensie, że u pracodawcy takich regulacji nie ma w ogóle lub są, ale nie zawierają odpowiednich postanowień); (zdanie oznaczone symbolem „s”) oraz g) pracownik spełnia warunki szczególne zawarte w Rozporządzeniu; (zdanie r) to wówczas h) pracownikowi przysługują należności na pokrycie kosztów podróży służbowej odpowiednio według przepisów, o których mowa w Rozporządzeniu (zdanie „t”).

Powyższą normę zobrazować można za pomocą następującej funkcji logicznej:

{[(p*q*r) > t] * [(p*~q*r*s) > t]} = {[(p*q*r) | (p*~q*r*s)] > t}

Funkcję tę odczytać należy: zawsze i tylko wtedy gdy: p i q i r to t, oraz p i nie-q i r i s to t, to jeżeli p i q i r albo p i nie-q r i s, to wtedy t.

Mając na uwadze powyższe należy sprawdzić, czy przedstawione powyżej w literach a) – g) rozumowanie, zobrazowane funkcją logiczną „{[(p*q*r) > t] * [(p*~q*r*s) > t]} = {[(p*q*r) | (p*~q*r*s)] > t}” jest tautologią.

Celem metody skróconej jest takie podstawienie wartości logicznych, aby osiągnąć fałsz całej funkcji. Ponieważ w przedmiotowej funkcji funktorem podstawowym jest funktor równoważności (oznaczony symbolem „=”), wskazuję, że jedyną sytuacją w której cała funkcja może okazać się fałszywa, jest sytuacja, gdy oba czło-ny posiadają różną wartość logiczną (a więc człon {[(p*q*r) > t] *

[(p*~q*r*s) > t]}) okaże się prawdziwy, a nastepnik (tj. człon {[(p*q*r) |

| (p*~q*r*s)] > t}) fałszywy, lub odwrotnie.

Przyjmując więc, że pierwszy człon funkcji jest prawdziwy, należało przyjąć, że koniunkcja obu wyrażonych tam funktorów jest prawdziwa.

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 85

Nadmieniam, że koniunkcja jest prawdziwa jedynie w jednym przypadku, tj. gdy wszystkie jej składowe są prawdziwe.

Skoro więc koniunkcja składała się z dwóch implikacji ([(p*q*r) >

> t] oraz [(p*~q*r*s) > t]) to przyjąć należało, że są one prawdziwe.

Dalej rozkładając pierwszą implikację [(p*q*r) > t], należało zwrócić uwagę należało, że składa się ona z poprzednika (kolejnej koniunkcji) oraz następnika (t). Niezależnie jednak od sposobu pod-stawienia wartości logicznych poszczególnych elementów (p,q,r,s,t), nie sposób było osiągnąć prawdziwości drugiego członu całej funkcji. Podobna zależność powstaje, gdy założymy, że pierwszy człon jest fałszywy, a drugi prawdziwy. Oznacza to, że mamy do czynienia z tautologią.

Przedstawiona funkcja reprezentuje więc prawo logiczne, które jest sprawdzalne. Zgodnie bowiem z metodą skróconą, nie sposób znaleźć takiego układu wartości logicznych poszczególnych zmiennych zdaniowych, aby cała funkcja okazała się fałszywa.

W konsekwencji całe rozumowanie można sprowadzić do prostej zależności: Skoro jest tak, że postanowienia Rozporządzenia stosujemy (zdanie p), gdy u „innego pracodawcy” nie mają miejsca wewnętrzne uregulowania dotyczące należności z tytułu podróży służbowej (zdanie ~q), to jeśli u „innego” mają miejsce wewnętrzne w/w uregulowania (zdanie q), to nie stosujemy postanowień Regulaminu (~p), co wyraża się funkcją (która jest konstrukcją logicznie zbliżoną do zasady modus tollendo tollens):4 [(p>~q) *q ] > ~p.

W związku z powyższym na płaszczyźnie analizy logicznej, można uznać za udowodnione, iż z rzeczonej normy a contrario wynika uprawnienie dla pracodawcy do ustanowienia ryczałtu noclegowego w ramach wewnątrzzakładowych źródeł prawa w wymiarze niższym niż 25% limitu ryczałtu, co nie uchybia zasadom wypływającym z treści art. 9 i 18 k.p.

Wykazałem zatem, że nie można zgodzić się ze stanowiskiem przywoływanym między innymi w orzecznictwie sądów (w tym 4 Sposób zaprzeczający za pomocą zaprzeczenia – prawo logicznego rachunku zdań lub schemat wnioskowania, wg którego fałszywość następnika prawdzi-wej implikacji pociąga za sobą fałszywość jej poprzednika.

86

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law także w orzeczeniu Sądu Najwyższego (II PZP 1/14) z 12 czerwca 2014 r.), które odmawiają pracodawcom ustanowienia w wewnątrzzakładowych źródłach prawa ryczałtów noclegowych poniżej 25%

limitu przewidzianego w stosownym rozp. MPiPS.

Powyższy przykład wskazuje na zasadność traktowania prawa, jako przedmiotu ścisłego. Można zatem przyjąć, że z perspektywy programistycznej prawo jest dyscypliną ścisłą opartą na zbiorze warunków brzegowych wynikających z:

a) zasad wykładni prawa;

b) zasad logicznych;

c) zasad matematycznych.

Nie ma zatem wątpliwości, że na określonym etapie rozwoju DI będzie w stanie samodzielnie dokonać weryfikacji tautologicznej oraz przeprowadzić równania logiczne zdań, określając w sposób zapewne niewspółmiernie bardziej doskonały od gatunku homo sapiens zakres logiczny norm prawnych, wynikających z określonej treści przepisów prawa.

W sposób całkowicie zamierzony umieściłem znaczną część wy-wodu logicznego określającego zakres normy prawnej przedmiotowego przepisu, aby wykazać dwie okoliczności:

– po pierwsze, że gdyby sądy powszechne oraz Sąd Najwyższy wykonały tautologię oraz równanie logiczne dań, wówczas przez 20 lat nie emitowałyby mylnych orzeczeń – zamiast błą-dzić przez dwie dekady, wystarczyło poświęcić kilka godzin na sporządzenie szeregu operacji logicznych i uzyskać wynik pewny wynikający z treści przywołanego przepisu prawa;

– po drugie, to co mi zajęło kilka godzin (wykonanie powyżej przywołanych „operacji logicznych”), DI wykonałaby w kilkadziesiąt milisekund (w zależności od mocy obliczeniowej), co oznacza, że ocena wartości pewnych (w ujęciu logicznym) dla całego polskiego prawa, zajmie kilkadziesiąt godzin przy zastosowaniu odpowiednich mocy obliczeniowych.

Stanowi to drastyczny i wręcz trudny do wyobrażenia skok jakościowy na poziomie odczytania przepisów prawnych i opracowania logicznych zakresów norm prawnych. Można wręcz powiedzieć, że zmiana ta będzie miała charakter rewolucyjny i zmieni całkowicie

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 87

optykę nie tylko na aktualnie obowiązujące prawo materialne, ale co ważniejsze, zmieni przyszłość legislacji. Można się spodziewać, że zanim projekt ustawy lub poszczególnych przepisów zostanie wdrożony do porządku prawnego przez parlament, to uprzednio będzie każdorazowo poddawany ocenie wartości logicznej przewi-dywanej normy prawnej za pomocą stosownego narzędzia progra-mistycznego.

Problem z oprogramowaniem prawa

Z ogólnego wniosku, iż prawo co do zasady jest przedmiotem ścisłym, opartym za nasadach wykładni prawa oraz zasadach logicznych i matematycznych, nie można wywodzić naiwnej konstatacji, iż oprogramowanie prawa, czyli przeniesienie treści przepisów i norm prawnych na płaszczyznę algorytmu jest proste i bezproble-mowe. Przeciwnie – bywa wyjątkowo trudne, a często wręcz niemożliwe do realizacji, czego doświadczyłem wielokrotnie na etapie projektowania struktury algorytmów w celu cyfryzacji prawa. Źródeł problemów z oprogramowaniem prawa jest wiele (przynajmniej kilkadziesiąt głównych) i niektóre z nich stanowiły już przedmiot moich publikacji w ramach odrębnych opracowań prawnych, a inne dopiero zostaną opublikowane w ramach już przygotowanych przeze mnie opracowań książkowych, ale jeszcze nie wydrukowanych.

W tym miejscu postaram się dokonać ogólnego usystematyzowania kilkunastu najbardziej podstawowych zagadnień problemowych, które utrudniają lub uniemożliwiają oprogramowanie lub interpretację prawa zarówno prawnikowi, programiście, jak i w przyszłości cyfrowej inteligencji:

A. Relacje pomiędzy przepisami, a normami prawnymi W kontekście oceny zdolności cyfryzacji prawa (niezależnie czy przez człowieka, czy przez DI/AI) należy poddać rozważaniu kwe-stię, odnoszącą się do relacji zachodzących pomiędzy przepisami prawa, a normami prawa. Należy dokonać rozstrzygnięcia, czy je-

88

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law den przepis prawa może być nośnikiem jednej normy, czy też więcej niż jednej normy prawnej, lub też, czy grypa przepisów może być nośnikiem zaledwie jednej normy? Niektóre z ośrodków akademickich stoją na stanowisku, iż jeden przepis może być źródłem zaledwie jednej normy, a inne środki wyrażają pogląd, że jeden przepis może być źródłem także więcej niż jednej normy. Bez rozstrzygnięcia tak fundamentalnej kwestii, DI nie będzie dysponowała kluczowym warunkiem brzegowym dla emisji jednego rozstrzygnięcia, przez co można się spodziewać, że albo wyemituje losowo dowolny wynik z puli możliwych wyników, albo wyemituje wszystkie możliwe wyniki interpretacji.

W gruncie rzeczy, przedmiotem oprogramowania są nie tyle przepisy, co normy prawne. DI będzie musiała wyekstraktować z przepisów prawnych normy prawne. W celu wychwycenia normy prawnej z przepisu (ów), należy uprzednio zrealizować proces wykładni prawa, zastosować zasady wykładni prawa I i II stopnia. Jest to proces wielokrotnie bardzo złożony i bynajmniej nie zawsze dający jednoznaczne rozstrzygnięcia.

W przypadku klasycznego algorytmu informatycznego, za proces wykładni prawa (uzyskanie i oprogramowanie normy prawnej, która następnie zostanie przeniesiona do algorytmu) odpowiada operator (człowiek) piszący kod informatyczny i to na nim ciąży odpowiedzialność za ewentualne niedoskonałości w odkodowaniu normy prawnej. W przypadku DI, odpowiedzialność za przeprowadzenie procesu wykładni prawa, czyli za przetworzenie przepisów w normy prawne, będzie spoczywała bezpośrednio na algorytmie DI/AI. Jeśli DI będzie bazowało na niejasnych zasadach wykładni prawa, które w gruncie rzeczy są zbiorem norm kolizyjnych, to norma prawna uzyskana przez DI może stanowić wielkie zaskoczenie.

Zatem kluczowym zadaniem, stojącym przed prawniczym światem naukowym w zakresie cyfryzacji prawa jest określenie jednoznacznych zasad wykładni prawa, za pomocą których budowany będzie zakres normy prawnej, będącej przedmiotem implementacji do algorytmu informatycznego lub wynikiem działania algorytmu.

Pozornie zadanie to może uchodzić za proste. W praktyce rozwój gałęzi prawoznawstwa spowodował na przestrzeni dekad wykształ-

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 89

cenie wielu (kilkudziesięciu) reguł interpretacyjnych I i II stopnia.

Jednak kolejność stosowania oraz reżim stosowania zasad wykładni prawa nie został formalnie (normatywnie) usystematyzowany. Ponadto reguły subsydiarne (uzupełniające) różnią się miedzy sobą w ramach poszczególnych ośrodków naukowych (akademickich) lub podręczników ect. Wiele reguł uzupełniających nie daje w gruncie rzeczy jasnych wskazówek. Niektóre z reguł wykładni prawa ma charakter intuicyjny, co prowadzi do rozbieżności interpretacyjnych.

Stanowi to źródło chaosu interpretacyjnego i należy się spodziewać odwzorowania tego chaosu interpretacyjnego także po zastosowaniu reguł wykładni prawa przez DI. Niejasny katalog reguł musi dawać niejasne i niejednorodne odpowiedzi. Prawdziwe, aczkolwiek często krzywdzące stwierdzenie: „ ilu prawników tyle opinii prawnych”

wynika z faktu, że w pozornie uregulowanym środowisku przepisów prawnych, posiadającym ścisłe zakresy logiczne i oparte na zbiorach warunków brzegowych, dochodzi do interpretacji za pomocą katalogu reguł interpretacyjnych, których wzajemne relacje nie są jednoznacznie uregulowane. Często są one podawane w sposób wręcz mylny w trakcie studiów prawniczych. Przykładem może być relacja wykładni I stopnia – funkcjonalnej, która w gruncie rzeczy (gdy się dobrze nad tym zastanowić), wprost tworzy normę prawną.

Zatem mylne wydaje się ugruntowane w prawoznawstwie twierdzenie odnoszące się do prymatu wykładni językowej nad pozostałymi wykładniami, skoro rozpoczęcie procesu wykładni prawa od ustalenia w Biurze Legislacyjnym Sejmu RP komentarza, do konkretnego przepisu, udziela odpowiedzi co do intencji interpretacyjnych tak zwanego „racjonalnego legislatora”. Nie zawsze zatem warto rozpo-czynać wykładnię przepisów prawa od wykładni językowej i nie zawsze sprawdzi się zasada „ clara non sunt interpretanda”. Przykładem takiej sytuacji może być nowelizacja art. 43 ust. 1 Ustawy z dnia 15

listopada 1984 r. Prawo przewozowe, z którego literalnego brzmie-nia przepisu wynika coś przeciwstawnego do intencji wyrażonej w uzasadnieniu legislatora. DI będzie musiała otrzymać jasną dys-pozycję, kiedy i w jaki sposób ma dokonywać ocen warunkujących wyekstraktowanie normy prawnej z przepisu. Już na tym przypadku widoczna jest konieczność analizy przez DI nie tylko treści przepi-

90

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law sów i stosowania zasad wykładni prawa, ale odwołania się także do uzasadnień poczynionych przez legislatora.

Jeszcze innym problemem w obszarze wykładni prawa (czyli zasad tworzenia zakresu normy prawnej), jest okoliczność istnienia wielu reguł wykładni prawa, które nie są nośnikiem żadnej pewnej informacji, np. reguła, która brzmi: „ W trakcie wykładni należy brać pod uwagę przynależność przepisów prawa do określonej gałęzi prawa (systematyka zewnętrzna)”. Takie sformułowanie w ujęciu algoryt-micznym nic nie oznacza, rozumiemy je nieco intuicyjnie, ale nie jest źródłem informacji pewnej – trzeba będzie dopiero nadać sens (określić warunki brzegowe). Za przykład można także podać sub-sydiarną dyrektywę pionową do wykładni systemowej, iż: „ Nie powinno się przypisywać regule prawnej znaczenia, przy którym byłaby ona sprzeczna z którąkolwiek reguł systemu hierarchicznie wyższych” .

Już samo określenie „ nie powinno się…” będzie nastręczać problemów interpretacyjnych DI. W dalszej części niniejszego opracowania wyjaśniam problemy związane z niektórymi typami określeń prawnych, takimi jak np. „ powinien” ect.

B. Określenie źródeł prawa

Następnym problemem procesu cyfryzacji prawa na poziomie DI, jest ustalenie pewnego katalogu źródeł prawa. Moje kilkunastolet-nie doświadczenia w cyfryzacji prawa ujawniły ogromny zakres niejasności w przedmiotowym obszarze. Problemów związanych z ustaleniem źródeł prawa jest wiele. Postaram się w tym miejscu wymienić niektóre z nich, a w szczególności:

– Problem ustalenia statusu i rangi Wytycznych Komisji Europejskiej. Generalnie Wytyczne KE nie stanowią legalnych źródeł

prawa UE, ale do znaczącej części Rozporządzeń unijnych są emi-towane w dużej ilości, np. do Rozporządzenia 561/2006 UE wyemi-towano ponad 20 Wytycznych KE. Tym samym są traktowane, jak źródła prawa, pomimo, że nie zostały uchwalone przez Parlament Europejski, co w ujęciu ścisłym oznacza, że nie są źródłami prawa.

TofUE określa wprost w art. 288 wykaz źródeł prawa i wśród nich nie występują Wytyczne KE. Zatem w przypadku oprogramowania

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 91

prawa metodą tradycyjną lub przy wykorzystaniu DI, trzeba będzie dokonać rozstrzygnięcia, czy Wytycznym KE nadany zostanie walor źródeł prawa. W innym przypadku wynik odkodowania treści normy z treści przepisów Rozporządzeń unijnych może być czysto przypadkowy. Odpowiedzi na pytanie, dlaczego sądy oraz organy kontrolne mają obowiązek uwzględniać w procesie wykładni prawa treść wytycznych należy upatrywać w orzeczeniu ETS w sprawie Salvadore Grimaldi v Fonds des maladies professionnelles (nr 322/88), w którym rozszerzono zasadę skutku pośredniego na zalecenia (wytyczne), które nie są źródłami prawa. ETS zajął stanowisko, iż pomimo, że zalecenia i wytyczne nie stanowią źródła powszechnie obowiązującego prawa, sądy oraz organy administracji powinny uwzględniać ich treść w procesie wykładni prawa. Można więc zastanowić się, jak taką sytuację zinterpretuje DI?

– Problem tzw. „dominującej linii orzeczniczej sądów” . Dominu-jąca linia orzecznicza sądów nie stanowi źródła prawa – często ma charakter wręcz contra legem – ale w praktyce wiadomo, że wywiera ogromny wpływ na interpretację i wykształcenie normy prawnej.

Pomimo, że przyjmuje się, iż w europejskim kontynentalnym systemie prawa nie stosuje się precedensowego systemu prawnego common low, to faktycznie jest zgoła odmiennie, ponieważ powszechnie przyjęło się odwoływać do tzw. „ dominującej linii orzeczniczej sądów”.

W istocie jest to określenie nie posiadające definicji legalnej, jak również w ogóle nie występujące w systemie prawnym. Nie można zatem wyrokom tworzącym tzw. dominującą linię orzeczniczą nadać jakikolwiek walor u źródła prawa, ale w praktyce wiadome jest, że częstokroć normę prawną opiera się właśnie na tzw. dominującej linii orzeczniczej – częstokroć sprzecznej z literalnym brzmieniem przepisów ( contra legem). Jest to tym bardziej zaskakujące, iż co do zasady orzeczenia contra legem są przejawem łamania prawa i stoją w opozycji do koncepcji „racjonalnego legislatora”. Należy zatem zadać pytanie, czy DI w procesie tworzenia normy prawnej ma uwzględniać wnioski wynikające z „ dominującej linii orzeczniczej”?

Jest to silnie dyskusyjne, ponieważ orzeczenia wydane na podstawie wnioskowania contra legem, tworzące dominującą linię orzeczniczą, naruszają zasadę demokratycznego prawa i monteskiuszowską

92

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law zasadę trójpodziału prawa, ponieważ władzy sądowniczej nie nada-no prerogatyw władzy ustawodawczej. Analogiczny problem odnosi się także do tzw. „trzeciej zasady skutku pośredniego” wygenerowanej na podstawie orzecznictwa ETS, stanowiącej, iż przepisy dyrek-tywy UE mogą stanowić źródło prawa stosowanego bezpośrednio do obywateli, pomimo, że stoi to w jawnej opozycji do normatywnie wyrażonej zasady unijnej, że dyrektyw nie stosuje się wprost.

Z powyższymi dylematami borykają się twórcy oprogramowań prawnych i będą one źródłem w gruncie rzeczy nierozstrzygalnych problemów w procesie kształtowania norm prawnych przez DI.

C. Katalog fraz zakazanych w procesie legislacji skutkujących wygenerowaniem „antynormy”

Kolejnym obszarem problemowym oprogramowania prawa, które stanowią przyczynę nierozstrzygalnych problemów logicznych są sformułowania, które nie mają jednoznacznie ugruntowanego nor-matywnego zakresu (brak im definicji legalnych). Można wymienić kilka takich problematycznych sformułowań:

– „ powinien” (w kontekście „ musi” czy „ może”) – od dekad istnieje w gruncie rzeczy nie rozstrzygnięty spór doktrynalny, czy sformułowanie „ powinien” stoi w opozycji do „ musi” (czyli nie musi) i DI nie dokona tego rozstrzygnięcia bez podpowiedzi, czyli bez stworzenia jasnego warunku brzegowego, lub dokona własnej interpretacji;

– „ od…do” – także i w tym przypadku, co do zasady istnieje nie rozstrzygnięty spór doktrynalny, w jaki sposób interpretować daty lub ogólnie czas, tym samym DI nie dokona tego rozstrzygnięcia bez podpowiedzi, czyli bez stworzenia jasnego warunku brzegowego, lub dokona własnej interpretacji;

– „ takie jak” (w opozycji do „ jak” ) – w tym przypadku istnieje w gruncie rzeczy nie rozstrzygnięty normatywnie spór doktrynalny, które z przywołanych określeń stanowi źródło katalogu otwartego, a które zamkniętego, tym samym DI nie dokona tego rozstrzygnięcia bez podpowiedzi, czyli bez stworzenia jasnego warunku brzegowego, lub dokona własnej interpretacji;

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 93

– „ w szczególności” – przyjmuje się w doktrynie (co nie zostało normatywnie uregulowane), iż określenie to należy interpretować jako „ między innymi” , lecz taka interpretacja nie jest poparta normatywnie, przez co nie stanowi jednoznacznego warunku brzegowego dla DI.

Katalog fraz nie stanowiących źródła pewnej informacji w prawie jest znacznie szerszy. Bez dokonania konkretnych rozstrzygnięć, co do zakresów tych oraz innych dyskusyjnych fraz wystę-pujących w przepisach, DI nie dokona jednoznacznych i przewidy-walnych rozstrzygnięć (w ujęciu normatywnym). Parafrazując Stanisława Lema, czasami 2+2 będzie stanowić 4, a czasami 7 i wynik nigdy nie będzie pewny5. Aktualnie w procesie oprogramowania przepisów prawnych twórcy programów napotykają na dokładnie te same problemy i to na ich wyczuciu oraz intuicji spoczywa roz-strzygnięcie, co do zakresu normy prawnej, która bynajmniej nie stanowi w takich przypadkach wyniku pewnego. Tymczasem algorytm zawsze opiera się na zbiorze zer lub jedynek (01) – coś może być albo fałszem, albo prawdą i nie może być stanem pośrednim. DI, podobnie jak obecni twórcy algorytmów, w przypadku niepewnej treści przepisu wyekstraktuje niepewną normę, a więc w gruncie rzeczy nie normę lecz „antynormę”. W istocie w wyniku namnoże-nia się w treści przepisów licznych fraz zakazanych, wykształciły się w systemie prawnym liczne „antynormy”.

W celu likwidacji „antynorm” konieczne jest określenie norma-tywnych (legalnych) zakresów określeń i fraz lub wręcz wyklucze-nie niektórych fraz z obrotu prawnego i legislacyjnego.

D. Błędy logiczne w treści przepisów lub będące źródłem nieuchwytnych dla ludzkiej percepcji zakresów Jeszcze inną kategorię problemową stanowią określenia, które albo są błędne logicznie albo odnoszą się do nieuchwytnych dla ludzkiej natury obszarów czasu.

5 S. Lem, Cyberiada – Maszyna Trurla, Kraków 1965.

94

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law a) Problematyka nieuchwytnego „nomenu” oraz roli „fenomenu”

Przykład może stanowić określenie : „ najpóźniej po”, związane np.

z paradoksem (rozwiązanym zresztą matematycznie), Zenona z Elei6.

Określenie „ najpóźniej po” często mylnie jest interpretowane jako sformułowanie „ po”. Określenie takie stosowane jest w prawie unijnym np. w treści art. 12 Rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 561/2006. Przykładem takiej treści normy może być art. 9 AETR lub art. 12/561/2006 (WE) – „najpóźniej po przybyciu do miejsca X”. Treść art. 12/561/2006 (WE) brzmi: „ Pod warunkiem, że nie zagraża to bezpieczeństwu drogowemu oraz umożliwia osiągnięcie przez pojazd odpowiedniego miejsca postoju, kierowca może odstąpić od przepisów art. 6–9 Kierowca wskazuje powody takiego odstępstwa odręcznie na wykresówce urządzenia rejestrującego lub na wydruku z urządzenia rejestrującego, albo na planie pracy najpóźniej po przybyciu do miejsca pozwalającego na postój”. Analogicznie w prawie międzynarodowym brzmi art. 9 umowy AETR „ Kierowca może odstąpić od przepisów niniejszej Umowy (…). Kierowca podaje powody takiego odstępstwa odręcznie na wykresówce urządzenia rejestrującego lub na wydruku z urządzenia rejestrującego, albo na planie pracy najpóźniej po przybyciu do miejsca pozwalającego na postój” . Można więc zadać naturalne pytanie w jaki sposób należy rozumieć sformułowanie unormowania: „ najpóźniej po”? Czy „ najpóźniej po” jakimś zdarzeniu oznacza to samo, co „bezpośrednio po” nim? Czy też może określenie „ najpóźniej po” stanowi otwarty katalog czasu. Analiza logiczna określenia: art. 12/561/2006

WE oraz art. 9 umowy AETR: „ najpóźniej po dotarciu do miejsca postoju”. Jeśli [nie zagraża to bezpieczeństwu drogowemu] i [umożliwia osiągnięcie przez pojazd odpowiedniego miejsca postoju] to [kierowca może odstąpić od przepisów art. 6–9 w zakresie niezbędnym dla zapewnienia bezpieczeństwa osób, pojazdu lub ładunku].

Zapis logiczny przedmiotowego sformułowania prezentuje się następująco: p =„odstąpienie od przepisów art. 6–9 …„ q = „ zagrożenie bezpieczeństwa drogowego” r =„umożliwienie osiągnięcia przez pojazd odpowiedniego miejsca postoju”. Jeśli [pow. sytuacja (odstąpienie od 6 Więcej na ten temat: W. Tatarkiewicz, Historia Filozofii. Tom I, Warszawa 2014; J. Czerniawski, Ruch, przestrzeń, czas, Kraków 2009; http://www.math.edu.pl/paradoks-zenona [dostęp: 12.09.2013].

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 95

przepisów) ma miejsce] to [kierowca powinien wskazać powody takiego odstępstwa].

Zapis logiczny: p =„odstąpienie od przepisów art. 6–9 …” w =„wskazanie powodu przez kierowcę” „powinien”= „jest konieczne, aby”

Zdanie [następnik] uznamy za prawdziwe, jeśli spełniony został jeden z warunków (kierowca podjął działanie):

• odręcznie na wykresówce urządzenia rejestrującego zaznaczył powód (ozn.) lub

• (odręcznie) na wydruku z urządzenia rejestrującego zaznaczył powód (ozn.), albo

• na planie pracy zaznaczył powód (ozn.).

Zapis logiczny: Czas wykonania czynności: „ najpóźniej po” = „ nie później niż” = „ od chwili zaistnienia zdarzenia do momentu znalezienia miejsca pozwalającego na postój (bezpieczny dla osób, pojazdu lub ładunku)”.

Zatem, w której chwili najpóźniej (zgodnie z zasadami logiki) kierowca może powołać się na przedmiotową normę? Bezsporne jest w świetle powyższego, że. .. natychmiast.

Rzecz tylko w tym, aby określić co rozumieć pod określeniem

„natychmiast”? W ujęciu logicznym oznacza to, że bezpośrednio po zatrzymaniu. Tu napotykamy (w ujęciu logicznym) na szereg problemów:

– po pierwsze, bezpośrednio po zatrzymaniu, to chwila (punkt) wręcz nieuchwytna, nieskończenie krótka i nieosiągalna dla ludzkiej percepcji. Tak więc w ujęciu logicznym, każdy inny moment powołania się na art 12/561/2006 (WE) niż bezpośrednio (nieosiągalnie szybko) po zatrzymaniu, będzie bez-skuteczny z mocy samej treści normy;

– po drugie, w ujęciu logicznym żadne zdarzenie nigdy nie następuje „najpóźniej po” jakimkolwiek innym. Dobrze obrazuje to zagadnienie paradoksu Zenona z Elei7. Co prawda w ujęciu matematycznym można wykazać, iż nieskończona ilość nieskończenie krótkich odcinków, daje odcinek o skończonej 7 Zenon z Elei (ok. 490 p.n.e. – ok. 430 p.n.e.), filozof grecki – uczeń Parmenidesa ze szkoły eleatów z Elei: Paradoks Zenona z Elei, http://www.math.edu.pl/paradoks-

-zenona [dostęp: 29.07.2013].

96

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law długości, rzecz jednak w tym, że ów punkt (powiedzmy że „nomen”), jest całkowicie nieuchwytny dla ludzkiej percepcji. Tak więc wypływają z powyższego dwa wnioski:

a) dla uznania możliwości powołania się na art. 12 przedmiotowego rozporządzenia należy, a priori odrzucić nomen, jako jedyną trafną (idealną) chwilę następującą nieskończenie krótko po zatrzymaniu się pojazdu,

b) wskutek odrzucenia nomenu należy zaakceptować fenomen, czyli pewien odcinek czasu po zatrzymaniu się, który jest uchwytny dla ludzkiego umysłu i jego percepcji.

Zachodzi jednak w tym miejscu pytanie, jak krótki powinien to być odcinek po zatrzymaniu lub odwrotnie – jak długi to może być odcinek po zatrzymaniu? Czy może być to 1 minuta po zatrzymaniu? Czy jedna godzina? Czy np. jeden tydzień? Wątpliwość ta jest o tyle uzasadniona, że każdy fenomen jest już złamaniem zasady określającej, że jedynym właściwym momentem powołania się jest punkt nieskończenie krótki po zatrzymaniu, czyli nomen. W sensie logicznym każda inna chwila jest już akceptacją na złamanie prawa i jako taka nie powinna być uznana za skuteczny czas powołania się na normę. Można więc powiedzieć, że świadomie się godzi-my na uznanie skuteczności danej czynności kierowcy pomimo, że skuteczna ona nie jest, ponieważ skuteczna być nie może z uwagi na nieskończenie krótki czas, kiedy powinna być zastosowana. Tak więc skoro akceptujemy za wystarczający dla skutecznego powołania się na omawiany art. 12/561/2006 (WE) upływ np. 1 minuty, to równie dobrze mogą to być: 2, 3, 4, 5, 10 minut itd., aż do nieskończoności.

W ujęciu logicznym nie ma znaczenia, czy do powołania się na art. 12

dojdzie w ciągu 1 sekundy albo jednego roku – każde z powyższych rozwiązań jest równie „bezskuteczne” (zbyt późne). Z powyższego wynika istotny wniosek, że należy bezwzględnie unikać na gruncie legislacyjnym niektórych określeń np. takich jak w omawianym art.

12 Rozporządzenia 561/2006 (WE) oraz art. 9 umowy AETR – typu:

„ najpóźniej po”, ponieważ w ujęciu logicznym zawsze trzeba będzie stwierdzić, że albo są niemożliwe do realizowania albo świadomie należy założyć, że uregulowanie to nie będzie przestrzegane jako nieuchwytne na poziomie percepcyjnym.

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 97

b) Problematyka przepisów kontradyktorycznych Zasadniczo wydawać by się mogło, że normy wewnętrznie kontra-dyktoryjne (sprzeczne) nie powinny w ogóle występować w systemie prawnym. Jednak znane są przypadki takich uregulowań, jak chociażby art. 26c ust. 2 Ustawy z dnia 16.04.2004 r. o czasie pracy kierowców: „ tygodniowy czas pracy, o którym mowa w ust. 1, możne być przedłożony do 60 godzin, jeżeli średni tygodniowy czas pracy nie przekroczy 48 godzin w przyjętym okresie rozliczeniowym nieprzekra-czającym 4 miesięcy”. Z powyższego wynika, że w ujęciu logicznym, w zasadzie do końca okresu rozliczeniowego nie można skorzystać z uprawnienia przedłużenia pracy do 60 godzin. Obecna konstrukcja przytoczonego przepisu bazuje na założeniu domniemanego zmniejszenia ilości godzin pracy w kolejnych lub poprzednich tygo-dniach danego okresu rozliczeniowego. Jednak w ujęciu logicznym oraz programistycznym, pierwszym momentem możliwości zastosowania 60 godzinnego tygodnia pracy jest ostatni dzień okresu rozliczeniowego, a więc w praktyce nigdy. Oczywiście można dokonywać bieżącego (codziennego) wyliczenia pracy, a dzięki temu na koniec okresu rozliczeniowego będzie względnie dokładnie wiadomo ile godzin powinien pracować kierowca, który już wcześniej wy-dłużył pracę do 60 godzin w ciągu tygodnia. Takie jednak wykonanie algorytmu choć możliwe, to jednak nie odpowiada treści normy, a więc jest z nią sprzeczne.

c) Problematyka uregulowań logicznych oraz legalnych, ale nie akceptowalnych

Dobrym przykładem omawianego zagadnienia może być pierwsza wersja treściowa „ zaświadczenia działalności kierowców”, wyemito-wanego do Rozporządzenia 561/2006 (WE), które obowiązywało od 14 grudnia 2009 roku do 15 grudnia 2009 roku. Ustawodawca międzynarodowy zastosował w treści zaświadczenia określenie, które posiada definicję legalną na gruncie polskiego prawa pracy, a mia-nowicie: „ urlop wypoczynkowy”. Komisja Europejska utożsamiła instytucje „ urlopu wypoczynkowego” z instytucją „ odpoczynku”. Jednak na gruncie prawa krajowego nie są to określenia tożsame. Z zasad

98

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law wykładni literalnej jednoznacznie wynikało, iż przedsiębiorcy trans-portowi wystawiając zaświadczenie w pozycji „urlop wypoczynkowy” odnoszą się do polskiej definicji urlopu, a nie do definicji „odpoczynku”. Takie samo też stanowisko zajął Główny Inspektorat Pracy w Warszawie z którego wynikało, że mamy do czynienia z dwiema odmiennymi instytucjami prawnymi, a więc nie można utożsamiać

„urlopu wypoczynkowego” z „odpoczynkami”. Zaznaczenie pozycji

„urlop” rodziło odpowiednie skutki prawne wynikające z polskiego prawa pracy. Jednak taka interpretacja napotkała na bardzo sil-ny opór społeczny. W praktyce utożsamiano „urlop wypoczynkowy”

z „odpoczynkiem”. Gdy chciano udokumentować urlop, dokonywa-no tego w formie kart urlopowych, wniosków urlopowych oraz ade-kwatnych informacji w ewidencji czasu pracy kierowców. Powyższe przykłady obrazują wzajemne przenikanie się relacji pomiędzy nor-mą prawną i algorytmami.

d) Problem omyłkowego braku implementacji źródła prawa do polskiego systemu prawnego

DI powinien przed wykształceniem zakresu normy prawnej dokonać ustalenia, czy dany akt w ogóle jest źródłem prawa (czy zostały prawidłowo zaimplementowane do systemu prawnego). Przykład mogą stanowić dwie umowy międzynarodowe: umowa AETR oraz umowa ATP. Są to kluczowe, a wręcz podstawowe konwencje międzynarodowe, regulujące zasady transportu, które w wyniku zaniechania formalnego Ministerstwa Spraw Zagranicznych, przez odpowiednio kilka i kilkanaście lat nie obowiązywały w polskim systemie prawnym, wbrew powszechnemu mylnemu przekonaniu organów kontrolnych i instytucji państwowych. Nota bene obydwie okoliczności nieobowiązywania kluczowych umów międzynarodowych wykryłem w 2013 roku i po mojej interwencji w MSZ8 zo-8 M. Miąsko, Kluczowa część umowy AETR nie obowiązuje w Polsce już od 3 lat bo…

MT zapomniał przesłać tekst do publikacji! , https://jazdaprawna.pl/czy-umowa-aetr-obo-wiazuje-w-polsce-bedziesz-zaskoczony/; M. Miąsko, MT potwierdziło informację Kancelarii Prawnej Viggen: AETR nie obowiązuje polskich przewoźników, https://jazdaprawna.pl/aetr-nie-obowiazuje-poskich-przewoznikow-mt-potwierdzilo-teze-kancelarii-prawnej-viggen/; M. Miąsko, Ministerstwo zwróci nielegalnie pobrane opłaty

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 99

stały wdrożone do polskiego systemu prawnego. DI powinno zatem dokonywać weryfikacji prawidłowości wdrożenia aktów prawnych (w tym także międzynarodowych) do systemu prawnego w celu ustalenia zakresu normy prawnej;

e) Problematyka roli doktryny prawa

Odrębną grupę problemową stanowi ocena roli doktryny prawa w procesie kształtowania zakresu normy prawnej przez DI. Aktualnie ogromne znaczenie odgrywa ugruntowane stanowisko przedstawicieli doktryny w zakresie interpretacji i wyników wykładni prawa. Jest dyskusyjne, czy DI będzie mogło się kierować ocenami przedstawicieli doktryny, które będą stały w opozycji do zakresu logicznego normy prawnej. W szczególności zagadnienie to sprowadza się także do być może marginalizacji wykładni celowościowej lub zakreślenia przestrzeni dla zastosowania wykładni celowościowej przez DI.

f) Problematyka określeń bliskoznacznych,

nie posiadających definicji legalnych

Kolejny obszar problemowy cyfryzacji prawa związany jest z określeniami bliskoznacznymi, nie posiadającymi definicji legalnych, których zakres może wydawać się podobny ale w gruncie rzeczy odnosi się do zupełnie różnych zbiorów. Przykładem może być trud-ność rozróżnienia przez DI takich określeń jak „ normatywne godziny pracy” i „ normalne godziny pracy” (art. 9 ust. 1 u.o.cz.p.k.). Zarówno krajowe, jak i międzynarodowe źródła prawa pracy nie wykształciły definicji instytucji „ normalnych godzin pracy”, co od lat budzi wątpliwości, czy należy łączyć przedmiotowe określenie z „ normatywny-mi godzinami pracy” , o których mowa w przepisach kodeksu pracy.

Niemniej jednak bardzo trudne zarówno dla prawnika jak i dla DI musi być rozróżnienie subtelnych różnic pomiędzy zakresami tych dwóch bliskoznacznych określeń. Wątpliwości wynikają z faktu, że za ATP??? , https://jazdaprawna.pl/ministerstwo-zwroci-nielegalnie-pobrane-oplaty-za-za-atp/ [dostęp: 07.06.2024].

100

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law należy oceniając zakres „ normalnych godzin pracy” należy wykazać, czy będą to „ normalne godziny pracy” w myśl źródeł krajowych, czy w myśl źródeł międzynarodowych prawa pracy.

Problemy z certyfikacją algorytmów

i ustalenie zgodności z normami

Innym poważnym problemem, który ujawnił się już na przestrzeni kilkunastu ostatnich lat programowania prawa, jest zdolność oceny prawidłowości funkcjonowania algorytmu. W Polsce nie ma instytucji certyfikującej zgodność algorytmów z normami prawnymi.

Ujawniają się tu co najmniej dwa niezależne problemy: a) zgodności odwzorcowania normy prawnej w algorytmie z przepisami prawa (co zostało już pokrótce opisane w niniej-szym opracowaniu);

b) zdolności do ustalenia miejsca błędu w algorytmie z uwagi na jego rozmiar.

Wszystko to sprowadza się finalnie do jednego problemu – zdolności ustalenia błędu w kodzie przez podmiot zewnętrzny (sąd, organ kontrolny, zespół programistów ect.).

W celu ustalenia ewentualnego błędu w oprogramowaniu prawnym, należałoby w pierwszej kolejności ustalić, czy na podstawie obowiązujących przepisów prawidłowo wygenerowano normę prawną, następnie czy norma ta została prawidłowo zaimplemen-towana do algorytmu, a także czy jej relacja względem innych norm w algorytmie nie generuje błędu.

Drugim zagadnieniem problemowym jest rozmiar algorytmu.

Przykładowo, wyprodukowany przeze mnie program kadrowo płacowy zawiera plików: 3 593; linii kodu: 60 5613, linii komentarzy: 178 267, linii pustych: 97 087; linii wszystkich (suma): 880 967. Zatem oprogramowanie zawiera się w około 605 tysiącach linii kodu informatycznego. Należy jednak mieć świadomość, że linia kodu informatycznego, nie jest odpowiednikiem jednej linijki tekstu w formacie Word (edytorze tekstu). Często jedna linia kodu informatycznego jest odpowiednikiem 20 linijek tekstu w edytorze tek-

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 101

stu. W pewnym uproszczeniu przyjmę (kierując się doświadcze-niem życiowym), że będzie to odpowiednikiem około 14 500 stron w edytorze tekstu, czyli około 29 ryz papieru po 500 stron każda (wydruk jednostronny). Obrazuje to obszar materiału badawczego lub weryfikacyjnego w ewentualnym postępowaniu np. sądowym.

Oczywiście mowa w tym miejscu o liniach kodu informatycznego, a nie tekstu. Przywołane liczny obrazują skalę problemu wynikają-cą z objętości kodu.

Wyśmienitym przykładem przedmiotowego zagadnienia proble-mowego może być błąd wyliczenia dodatku za godziny nadliczbowe w oprogramowaniu jednego z wiodących producentów programów kadrowo-płacowych, gdzie błąd obliczenia nie został wykryty przez wiele lat i tysiące biur kadrowo-płacowych bezkrytycznie podcho-dziło do wyników podawanych przez oprogramowanie – mylnie wyliczając wskazany dodatek do wynagrodzenia dla zapewne milionów pracowników. Przedmiotowy błąd wykryłem podczas przygotowywania opracowania naukowego, porównując spodziewane wyniki matematyczne wynikające z wykładni prawa, przepisów prawa pracy z wynikami proponowanymi przez oprogramowania.

Rozbieżność była oczywista (i bardzo duża). Tym bardziej zastana-wiająca wydawała mi się przyczyna nieujawnienia tego błędu przez wiele lat przy wykorzystaniu programu na ogromną skalę.

Ma to bezpośredni związek z innym zagadnieniem problemowym, jakim jest prawdopodobnie przyjmowanie przez ludzką percepcję, iż wynik zaproponowany przez programy komputerowe a priori traktowane są za pewnik – co często jest nieuzasadnione.

W gruncie rzeczy, nie można założyć, że wyniki zaproponowane przez DI, będą prawidłowe w tym znaczeniu, że nie wiadomo, czy będą wypadkową prawidłowo wygenerowanej normy prawnej.

Znam wiele przypadków poważnych błędów algorytmicznych w programach prawnych, na przestrzeni lat nie zostały wykryte zarówno przez użytkowników, jak i organy kontrolne.

102

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Podsumowanie

Cyfryzacja prawa jest nieunikniona na obecnym etapie rozwoju i cywilizacji. To, w jakim kierunku będzie podążać cyfryzacja prawa – także realizowana przez DI, w ogromnym stopniu zależy od środowisk naukowych, jako najbardziej świadomych zachodzących procesów. Nieco zadziwiająca może wydawać się okoliczność braku nadzoru w sprawowaniu kontroli lub funkcji korekcyjnej przez ludzi nad kierunkami rozwoju cyfryzacji prawa przez DI. Powyżej wskazane przykłady zagadnień problemowych związanych z cyfryzacją prawa pokazują ogrom pracy, który stoi przed środowiskami naukowymi – prawniczymi w obszarze cyfryzacji prawa w ujęciu zarówno tradycyjnym, jak i za pośrednictwem DI. Zadanie jest rozległe i jednocześnie pionierskie – w pewnym sensie jest ekwiwalentne do odkrywania nowego lądu i stanowi przejaw tworzenia nowego modelu ładu i porządku świata. To, czy powierzenie AI/DI kompetencji w obszarze zarządzania procesami prawnymi, będzie dla ludzi szan-są czy zagrożeniem, zależy w największym stopniu od nas samych.

Bibliografia

Źródła prawa

Kodeks pracy z dnia 26 czerwca 1974 r., Dz.U. z 1974 r. nr 24, poz. 141.

Literatura

Lem S., Cyberiada – Maszyna Trurla, Kraków 1965.

Internet

Kongres naukowy Futurologiczny Futurist Of The Year 2024: https://www.

sgmk.edu.pl/kongres-naukowy-futurist-of-the-year-2024/ [dostęp: 07.

06.2024].

Miąsko M., Kluczowa część umowy AETR nie obowiązuje w Polsce już od 3 lat bo…MT zapomniał przesłać tekst do publikacji ! , https://jazdaprawna.pl/czy-umowa-aetr-obowiazuje-w-polsce-bedziesz-zaskoczony/ [dostęp: 07.06.

2024].

Mariusz Miąsko • Prawo w dobie rozwoju cyfrowej inteligencji 103

Miąsko M., MT potwierdziło informację Kancelarii Prawnej Viggen: AETR

nie obowiązuje polskich przewoźników, https://jazdaprawna.pl/aetr-nie-obowiazuje-poskich-przewoznikow-mt-potwierdzilo-teze-kancelarii-prawnej-viggen/ [dostęp: 07.06.2024].

Miąsko M., Ministerstwo zwróci nielegalnie pobrane opłaty za ATP??? , https://

jazdaprawna.pl/ministerstwo-zwroci-nielegalnie-pobrane-oplaty-za-za-atp/ [dostęp: 07.06.2024].

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Anna Nieć-Mrzygłód*

Innowacyjne metody

planowania i realizacji audytów (prawnych)

w nowoczesnych przedsiębiorstwach

z użyciem sztucznej inteligencji

Abstrakt

Niniejsza publikacja stanowi próbę usystematyzowania sztucznej inteligencji do obrotu porządku prawnego w zakresie prowadzonych i realizowanych audytów prawnych w spółkach. Z uwagi na przyspieszają-cy proces rozwoju algorytmów AI i narastającą chęć korzystania z nich przez użytkowników, staje się niemalże automatycznym procesem prawdopodobieństwo coraz większego wykorzystania ich w spółkach, których przedmiot i charakter daje podstawę do realizacji czasochłonnych, kosz-togennych i trudnych w swojej istocie do realizacji audytów prawnych, którym poddają się wszystkie większe spółki. W wyniku pojawienia się pierwszych rozwiązań AI dostrzec można równolegle szereg zagrożeń i lęku jakie budzi wśród społeczeństwa ta technologia. Specjaliści zajmu-jący się tematyką dostrzegli brak przejrzystości, możliwości wpływania na wybory człowieka i uprzedzenia społeczne, możliwości naruszania prywatności, zagrożenia bezpieczeństwa, koncentrację władzy w rękach korporacji władającej narzędziem, rewolucję na ryku pracy, postawnie

* Mgr Anna Nieć-Mrzygłód, Uczelnia Metropolitalna w Katowicach, Polska, e-mail: anm@viggen.pl; https://orcid.org/0009-0001-6463-9941.

106

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law nierówności ekonomicznych, doprowadzenie do zerwania więzi międzyludzkich, dezinformację, manipulację czy nawet uzależnienie od narzędzi AI. Nie sposób temu zaprzeczyć, niemniej zastanowić się należy co jako społeczeństwo zrobić możemy, aby i tak już powstające narzędzie wykorzystać możliwie najlepiej, bezpiecznie i z korzyścią dla społeczeństwa, a bez uszczerbku dla osób postronnych.

Niestety dostrzec można już obecnie społeczeństwa, gdzie taka okoliczność ma miejsce, co można zaobserwować na przykładzie Chin. Poziom kontroli i wpływu jaki może to narzędzie dać w ręce społeczeństwa może doprowadzić do pełnej manipulacji i dezinformacji w wymiarze także prawnym.

Realizacja i korzystanie przez prawników z AI obarczone musi zostać zawsze poważnym i kompleksowym zadbaniem o ochronę prywatności poufności danych, które są przedmiotem przetwarzanych przez narzędzie materiałów. Należy w sposób zrównoważony wprowadzić innowacyj-ność do etyki i tajemnicy zawodowej oraz odpowiedzialności za treści i jakość świadczonych usług w tym także realizowanych audytów prawnych.

Słowa kluczowe

Audyt prawny, audyt techniczny, sztuczna inteligencja, prawo a sztuczna inteligencja, chmura prawa, audytowanie rzeczywistości, audyt, audyt permanentny, audyt uporczywy, anomalia systemowe, AI w obsłudze prawnej, AI w orzecznictwie sądów, dewaluacja systemu prawnego.

* * *

Konstruktor Trurl opracował ośmiopiętrową maszynę (robota) posiadają-cego cechy sztucznej inteligencji. Trurl, postanowił sparametryzować poziom oraz wrażliwość stworzonej przez siebie sztucznej inteligencji.

„ (…) Przez dwa tygodnie wprowadzał Trurl do swego przyszłego elektro-poety programy ogólne; potem przyszło strojenie obwodów logicznych, emocjonalnych i semantycznych. Już chciał prosić Klapaucjusza na prób-ny rozruch, ale się rozmyślił i puścił maszynę wpierw sam. Wygłosiła natychmiast odczyt o polerowaniu szlifów krystalograficznych dla wstępnego studium małych anomalii magnetycznych. Osłabił więc obwody logiczne i wzmocnił emocjonalne; dostała najpierw czkawki, potem ataku płaczu, wreszcie z największym trudem wygęgała, że życie jest straszne. Wzmocnił

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

107

semantykę i dobudował przystawkę woli; oświadczyła, że ma jej odtąd słu-chać, i kazała dorobić sobie dalszych sześć pięter do dziewięciu, jakie już miała, aby podumać nad istotą bytu. Wstawił jej dławik filozoficzny; wówczas przestała się w ogóle do niego odzywać i tylko kopała prądem. Naj-większymi błaganiami skłonił ją do odśpiewania krótkiej piosenki: «Żabka i babka w jednym stały domku», ale na tym się jej popisy wokalne skończy-ły. Wkręcał więc, dławił, wzmacniał, osłabiał, regulował, aż wydało mu się, że lepiej być już nie może. Wówczas uraczyła go wierszem takim, że wielkim niebiosom dziękował za przezorność; tożby się Klapaucjusz uśmiał, usły-szawszy te ponure rymowanki, dla których wstępnie wymodelował całe powstanie Kosmosu i wszystkich możliwych cywilizacji! Dał sześć filtrów przeciwgrafomańskich, lecz pękały jak zapałki; musiał je zrobić ze stali korundowej. Potem jakoś już poszło: rozchwiał maszynę semantycznie, podłączył generator rymów i omal nie wysadził wszystkiego w powietrze, maszyna bowiem zapragnęła stać się misjonarzem wśród ubogich plemion gwiezdnych. Wówczas jednak, w ostatniej niemal chwili, gdy był już gotów iść na nią z młotem w ręku, przyszła mu zbawcza myśl. Wyrzucił wszystkie obwody logiczne i wstawił na to miejsce ksobne egocentryzatory ze sprzę-żeniem narcystycznym. Maszyna zachwiała się, zaśmiała się, zapłakała i powiedziała, że boli ją coś na trzecim piętrze, że ma wszystkiego dość, że życie jest dziwne, a wszyscy podli, że pewno niedługo umrze i pragnie tylko jednego: aby o niej pamiętano, gdy już jej tu nie będzie. Potem kazała sobie dać papieru. Trurl odetchnął, wyłączył ją i poszedł spać”.

Niezależnie od stopnia parametryzacji (AI), robot Trurla uparcie twierdził, że 2 x 2 = 7. Gdy Trurl starał się nauczyć własną sztuczną inteligencję, iż 2 x 2 = 4, wówczas maszyna zagroziła Trurlowi, że „policzy mu kości”.

Wówczas Trurl zrozumiał i powiedział:

„Jest to, nie ulega wątpliwości, maszyna głupia, i to nie taką sobie zwykłą, przeciętną głupotą, bynajmniej! Jest to, o ile się orientuję, a jestem, jak wiesz, znakomitym specjalistą, jest to najgłupsza maszyna rozumna na całym

świecie, a to już nie byle co! Zbudować ją umyślnie nie byłoby łatwe, wprost

przeciwnie, sądzę, że to by się nikomu nie udało. Nie tylko głupia jest bowiem, ale i uparta jak kloc, czyli ma charakter, zresztą właściwy idiotom, bo oni zwykle są szalenie uparci”.

Stanisław Lem, Cyberiada – Maszyna Trurla, Kraków 2023

108

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Wprowadzenie

Temat przedmiotowej publikacji determinuje przyjęcie przede wszystkim do wykorzystania metody aksjologicznej polegającej na badaniu nastawienia podmiotów do norm prawnych w zależności od ich światopoglądu, pozwoli dookreślić oczekiwania społeczne i wykazać na ile stan prawny ma silną podstawę i daje gwarancję pewności przy korzystaniu z omawianych regulacji. Posłużyć się także należy metodą teoretyczno-prawną koncentrując się na badaniu sposobu stanowienia i stosowania przepisów dotyczących omawianych zagadnień. Pomocniczo korzystać będę z metody historyczno-prawnej, polegającą na przedstawieniu genezy zastosowania algorytmów AI „sztucznej inteligencji”, a także metody komparatystycznej pozwalającej uwzględnić wszystkie powyższe analizy i metodologie w ujęciu perspektywicznym, pokazać obiek-tywizm całego zjawiska i wielotorowo spojrzeć na obrazowany temat. Będę także posługiwać się metodą analityczną i syntetyczną charakteryzujących się szczególnym ujmowaniem rzeczywistości.

Zastosowanie tak szerokiego spektrum metodologicznego pozwoli na kompleksowe podejście do omawianego zagadnienia, a zastosowana triangulacja teoretyczna polegającą na analizowaniu pozyskanych danych z perspektywy wielu różnych teoretycznych koncepcji pozwoli zbudować bardziej obiektywny obraz i przedstawić zagadnienie wieloobrazowo.

Zastosowanie algorytmów AI „sztucznej inteligencji” (Artificial Intelligence) wraz z uwzględnieniem elementów robotyki, wydaje się pozornie rozwiązaniem wręcz idealnie dopasowanym do potrzeb realizacji audytów w przedsiębiorstwach. Aktualnie przez AI rozumie się zdolność przetwarzania języka (rozpoznawania tekstu, odczytywana, klasyfikowania, tłumaczenia, odpowiadania, stosowania mowy), wykorzystywania systemów eksperckich, rozróżnia-nia i przetwarzania obrazu, uczenia maszynowego, przetwarzania tekstu na mowę i odwrotnie, planowania i robotyki. Jest to zatem konglomerat kwantyfikatorów niezbędnych do realizacji dowolnego rodzaju audytu (prawnego lub technicznego).

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

109

Wbrew pozorom, AI nie jest aż tak dużą nowinką w procesie audytowania, jak pozornie mogłoby się wydawać. W wielu obszarach powstawały już od co najmniej 2 dekad zaawansowane projekty informatyczne, realizujące w różnorodnym stopniu założenia „zdalnego audytu”. Doświadczenia te ujawniły wiele problemów, z którymi zaawansowane algorytmy nie mogły sobie poradzić na różnych poziomach realizacji audytów prawnych w przedsiębiorstwach.

Niniejsze rozważania poświęcone są science fiction, czyli fikcji spekulatywnej opartej o aspekty stricte naukowej analizy w zakresie dającej się przewidzieć futurologii realizacji audytów prawnych lub technicznych (aczkolwiek w szczególności prawnych).

Zakres sztucznej inteligencji

W Polsce brak jest definicji legalnej „sztucznej inteligencji”.

Zapewne istnieje wiele schematów podziału sztucznej inteligencji. Na kolejnej stronir prezentuję schemat zaproponowany na rządowej stronie www.gov.pl, a w szczególności na „Portalu sztucznej inteligencji”.

Istnieje wiele definicji funkcjonalnych np.: AI „ (…) możliwość sa-

moistnego (autonomicznego) ulepszania systemu lub przewidywania

zachowań i działań na podstawie analizy zebranych danych i kore-

lacji między nimi, z możliwością wpływu na środowisko zewnętrzne

oraz pozostające z nim w interakcji za pomocą sensorów i siłowników.

Interakcje te mogą zachodzić mechanicznie lub z udziałem człowieka w cyklu życia sztucznej inteligencji począwszy od etapu kreacji, rozwoju, wdrożenia, stosowania, aż po etap decyzji o wyłączeniu z pracy i utylizacji” .

110

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Uczenie maszynowe

Głębokie uczenie

Uczenie nadzorowane

Uczenie nienadzorowane

Przetwarzanie języka naturalnego

Klasyfikowanie

Systemy eksperckie

Tłumaczenie maszynowe

Sztuczna inteligencja

Odpowiadanie na pytania

Przetwarzanie obrazu

Generowanie mowy

Rozpoznawanie obrazu

Przetwarzanie mowy

Widzenie maszynowe

Planowanie

Przetwarzanie mowy na tekst

Robotyka

Przetwarzanie tekstu na mowę

Źródło: https://www.gov.pl/web/ai/czym-jest-sztuczna-inteligencja2

Zakres audytu1

– audyt sensu stricto

„ Wyraz »audyt« pochodzi od łacińskiego »auditor« , tj. słuchacz, słu-chający. Określenie to związane było z »przesłuchaniem rachunków« .

W starożytnym Rzymie jeden urzędnik »przesłuchiwał« – porównywał, odczytując ich treść z dokumentami innego, co miało zapobiegać błę-dom i stracie pieniędzy 2 . Instytucja audytu (ang. auditing) istnieje i rozwija się od XIX wieku”3.

– audyt sensu largo

W szerszym ujęciu audyt jest wszelką formą analizy np. analiza przez kancelarię prawniczą, dokumentacji na potrzeby postępowania sądowego jest formą swoistego „audytu”.

1 J. Pieńkos, Słownik łacińsko-polski. Łacina w nauce i kulturze, Warszawa 1996, s. 57.

2 A. Herdan, M. Stuss, J. Krasodomska, Audyt wewnętrzny jako narzędzie wspomagające efektywny nadzór korporacyjny w spółkach akcyjnych, Kraków 2009, s. 55.

3 Wielka Encyklopedia PWN. Tom 2, Warszawa 2001, s. 459; Audyt, https://pl.wikipedia.org/wiki/Audyt, [dostęp: 03.04.2024].

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

111

Sam proces sądowy, także stanowi przejaw swoistego „audytu”, czyli analizy porównawczej do przyjętego przez racjonalnego legislatora wzorca.

– audyt uporczywy

W zasadzie, ocena dowolnego postępowania w życiu społecznym lub gospodarczym lub prawniczym, jest swoistego rodzaj audytem.

Fotoradar na drodze, także w ujęciu szerokim stanowi formę audytu. Można dostrzec, że w zasadzie cały współczesny świat, został

„opleciony”, różnorodnymi formami audytu, ograniczającymi poczucie wolności jednostki, co być może wręcz narusza Prawa Człowieka, w zakresie prawa do wolności.

Można wyobrazić sobie świat, wykraczający dalece poza niedo-szacowaną wizję z książki Georga Orewella „Rok 1984”, gdzie każdy aspekt życia oraz myśli był „uporczywie audytowany”. Permanentny i uporczywy audyt AI może być zagrożeniem dla ludzkiej percepcji i natury. Może się okazać, że po przejechaniu z jednego na drugi kraniec miasta, zostaniemy pozbawieni prawa jazdy, auta, środków na koncie oraz pracy lub możliwości pracy, jako jednostki pozornie

„aspołeczne”, niebezpieczne, niedostosowane do obowiązujących norm.

Idea „permanentnego”, a wręcz „uporczywego” audytu realizowanego przez sztuczną inteligencję contra Prawa Człowieka, a w szczególności w kontekście prawa do wolności oraz prawa do godności, a prawo w połączeniu z AI może stać się wirtualnym, a jednocześnie jak najbardziej realnym więzieniem…. Natury Człowieka. Można zadać pytanie, czy wygrają „Prawa Człowieka” czy wygrają prawa sztucznej inteligencji?

Wąskie i szerokie ujęcie przedsiębiorstwa

Odwołując się stricte do art. 551. Kodeksu cywilnego – Przedsię-biorstwo jest zorganizowanym zespołem składników niematerialnych i materialnych przeznaczonym do prowadzenia działalności gospodarczej.

112

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Ale w ujęciu szerszym i potocznym oraz pozakodeksowym, przedsiębiorstwem jest wszelki przejaw aktywności człowieka: szpitale, kancelarie prawne, rodziny, aktywność społeczna, także w czasie wolnym od pracy etc.

Prawo jako przedmiot ścisły

Można zadać pytanie, czy przedsiębiorstwa w rozumieniu zarówno wąskim (kodeksowym), jak i szerokim (ogółu aktywności społecznej) podatne są na realizację audytów przez AI?

Przedsiębiorczość oraz niemalże cała aktywność „nowoczesne-go” człowieka opiera się na funkcjonowaniu w „chmurze prawa”, czyli do pewnego czasu (do momentu wystąpienia sankcji) niedo-strzegalnych fizycznie zasad i norm prawnych.

Warto więc zadać pytanie, czy prawo (rozumiane jako zbiór przepisów, a następnie norm) jest podatnym środowiskiem dla sporzą-dzenia oprogramowania komputerowego?

Aby udzielić odpowiedzi na to pytanie, należy w pierwszej kolejności udzielić odpowiedzi na podstawowe, a wręcz konstytutywne pytanie:

Czy prawo jest przedmiotem ścisłym czy stricte humanistycznym (nie ścisłym)?

Odpowiedź na tak zadane pytanie w ogromnej mierze będzie wa-runkowała wnioski w zakresie, czy w ogóle w jakimkolwiek przedsiębiorstwie lub innej formie aktywności społecznej, algorytmy AI będą posiadały zdolność realizacji audytu de facto prawnego (ponieważ niemalże wszystkie działania lub zaniechania w przedsiębiorstwach są uwarunkowane przepisami, a dalej normami prawnymi)?

Inaczej mówiąc, należy odpowiedzieć na pytanie, czy przepisy prawa da się oprogramować?

Można postawić tezę, że prawo (jako zbiór regulacji), jest klasycznym przedmiotem ścisłym, opartym na „zbiorze warunków brzegowych” (takich jak: od, do, pomiędzy, musi, może, nie może, najpóźniej do etc.).

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

113

W ujęciu logicznym, każde zdanie (w tym przepis), stanowi nośnik informacji wynikających z:

a) tautologii;

b) równań logicznych zdania;

c) wartości stricte matematycznych (cyfr oraz liczb).

W tym kontekście, prawo jako dyscyplina ścisła, w sposób wybit-ny nadaje się do oprogramowania i przełożenia jej na kod informatyczny, a także jego rozwojową formę sztucznej inteligencji.

Można to bardzo łatwo udowodnić, poprzez wskazanie de facto audytujących programów komputerowych, które wprost odzwier-ciedlają od wielu lat literę prawa: Optima, Wirtualny Audytor,

„Przedstawiciel Zagraniczny”, „Koniczynka”, „VTS – ewidencja czasu pracy”, „VTS – wynagrodzenia”, „Bus Manager”, „Manager Załadunku”, ale także oprogramowanie Urzędów Skarbowych, ZUS, etc.

Wymienione programy od przynajmniej 2 dekad, 24/h „audytują” rzeczywistość naszego otoczenia prawnego i być może większość z nas nawet nie ma tego świadomości.

Przykładowo: oprogramowanie „Wirtualny Audytor” (producent: Kancelaria Prawna Viggen) w każdej sekundzie monitorował kil-kaset tysięcy rekordów prawnych w przedsiębiorstwach transpor-towych, a następnie w sposób racjonalny wydawał dyspozycje poszczególnym pracownikom w przedsiębiorstwie, a następnie weryfikował wykonanie pracy przez poszczególnych pracowników…i to 11

lat przed oficjalnym ogłoszeniem powstania „sztucznej inteligencji”.

Grafika 1. System informatyczny „Wirtualny Audytor” do realizacji za-awansowanych audytów prawnych dla branży TSL

114

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Oprogramowanie „Bus Manager” (producent: Invent Software –

grupa kapitałowa Kancelarii Prawnej Viggen) dokonywał obliczeń najbardziej optymalnego dopasowania ilości kierowców w przedsiębiorstwach komunikacji miejskiej uwzględniając dziesiątki zmiennych, optymalizując warunki brzegowe wynikające z prawa wraz z relacjami ekonomicznymi przedsiębiorstw oraz zasobami osobowymi pracodawców, a także potrzebami transportowymi konsumentów… i to wszystko na 10 lat przed formalnym ogłoszeniem funkcjonowania sztucznej inteligencji.

Grafika 2. System informatyczny „Bus Manager” do realizacji zaawanso-wanych audytów prawnych czasu pracy kierowców dla branży TSL

Algorytmy „zwykłe”, algorytmy genetyczne,

algorytmy stochastyczne, AI

Można wiec zadać pytanie, czy AI, jest nowością? I tak i nie, ponieważ od kilkunastu lat w praktyce stosowane są algorytmy będące

„raczkującą” formą sztucznej inteligencji, np.: algorytmy genetyczne lub stochastyczne, a także sieci neuronowe.

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

115

Wpływ AI na ludzką percepcję oraz Prawa Człowieka –

„anomalie systemowe”

Prima facie należy w tym miejscu zastanowić się, czy ludzie (gatunek ludzki) będzie w ogóle akceptował „uporczywy audyt”, a w szczególności audyt AI?

W tym miejscu można odwołać się do przykładów z życia, np.: do doświadczeń z projektu „Wirtualny Audytor”, (nagrodzonego przez środowiska akademickie w 2013 roku, za najbardziej innowacyjne rozwiązanie informatyczne, realizujące autonomiczny, stały i permanentny audyt prawny w przedsiębiorstwach branży TSL”. Do-świadczenie pokazało, iż po wdrożeniu kilkuset „Wirtualnych Au-dytorów” do przedsiębiorstw, które w sposób permanentny audyto-wały 24/h setki tysięcy „rekordów prawnych” (dokumenty, terminy, uprawnienia, procesy pomiędzy kwantyfikatorami prawnymi), wy-dając następnie dyspozycje pracownikom oraz weryfikując jakość ich pracy – system został zbojkotowany przez pracowników, jako wkraczający zbyt głęboko w wolność pracownicze i ludzkie.

Homo sapiens na owym etapie (12 lat temu) nie był w stanie zaakceptować permanentnego i uporczywego audytu nad ludzkimi niedoskonałościami.

Poniekąd analogiczna sytuacja występuje aktualnie w odniesieniu do programu VTS (autor oprogramowania: zespół Kancelarii Prawnej Viggen), służącego do audytu optymalizacji kosztów w przedsiębiorstwach (tym razem występuje opór ze strony kadrowych i księgowych, którzy nie mogą pogodzić się z faktem, że aplikacja komputerowa sugeruje znacznie korzystniejsze możliwości wyliczenia oskładkowania względem wyuczonych i utrwalonych w środowisku kadrowych i księgowych metod wyliczenia ubrutto-wienia wynagrodzenia).

116

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law

„Anomalie systemowe” w systemie prawnym

Zapewne większość osób oglądała serię filmów „Matrix”. W jednej z części „Konstruktor” (AI) mówi, że nie był w stanie stworzyć świata idealnego, ponieważ ludzka natura nie była wstanie zaakceptować świata idealnego (czyli de facto „permanentnego, uporczywego audytu”), dlatego był zmuszony stworzyć świat niedoskonały, dla poczucia ludzkiej wolności, zgodnego z ludzką niedoskonałą naturą.

Być może nie każdy ma świadomość, ale wedle tej właśnie zasady skonstruowana została część prawa Unii Europejskiej (np.: rozporządzenie 561/2006 WE), a także prawa międzynarodowego (np.: Konwencja AETR – której pomysłodawcami nota bene, byli przedstawiciele polskiego środowiska naukowego).

Przywołane akty prawne w sposób niesłychanie precyzyjny, a wręcz nierealistycznie precyzyjny zakreślają normy czasu pracy, przerw i odpoczynków kierowców. Regulacje te, tworzą zbiory sta-nów idealnych, niemalże niemożliwych do realizacji.

W tym samym miejscu – te same akty prawne, świadomie tworzą przepisy, które można nazwać „anomaliami systemowymi” (tak na-zywa je w dwóch audiobookach Mariusz Miąsko4), które mówią, iż można naruszyć wszystkie normy prawne odnoszące się do czasu pracy kierowców zawodowych, jeśli taką decyzję podejmie autono-micznie kierowca w celu zapewnienia bezpieczeństwa osób, mienia lub ładunku. Egzemplifikację anomalii systemowych stanowi art.

12 Rozporządzenia 561/2006 WE oraz art. 13 Konwencji AETR.

Legislator międzynarodowy oraz unijny uwzględnił niedoskonałości świata oraz ludzkiej natury.

Można założyć, że jeśli sztuczna inteligencja będzie nader upo-rczywa i doskonała, wówczas zacznie być traktowana jako wróg ludzkiej natury i zostanie wyeliminowana przez gatunek homo sapiens.

4 M. Miąsko, Legalne sposoby uniknięcia odpowiedzialności za naruszenia czasu jazdy i okresów prowadzenia pojazdów, przez kierowców zawodowych (audiobook), red. Kancelaria Prawna Viggen sp. j. M. Miąsko, M. Miąsko, 1 (2014) oraz M. Miąsko, Legalne sposoby uniknięcia odpowiedzialności za przerwanie lub skrócenie przerw i odpoczynków, przez kierowców zawodowych (audiobook), red. Kancelaria Prawna Viggen, 1 (2014).

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

117

Jeśli natomiast, AI postąpi tak jak w filmie „Matrix” tworząc złu-dzenie wolności, wówczas zdobędzie i zniewoli gatunek homo sapiens tak jak zostało to pokazane w filmie „Matrix”.

Zatem, anomalie systemowe, pomimo pozornego okna wolności, stanowią zagrożenie dla ludzkości – która zostanie potraktowania syndromem „powoli gotowanej żaby”.

Problematyka niedopasowania AI

do zakresu normy prawnej

Warto zwrócić uwagę także na aspekt błędów treści przepisów prawnych (w wyniku błędów logicznych zawartych w treści przepisów). W konsekwencji nie ma możliwości oprogramowania algorytmu w sposób zgodny z treścią normy i jednocześnie zgodny z lo-giką lub matematyką, co uniemożliwi przeprowadzenie w sposób pewny audytu opartego na treści przepisu, który w wyniku własnej wadliwości nie pozwala na wyekstraktowanie prawidłowej normy prawnej.

W prawie znane są z grubsza co najmniej cztery źródła problemów z oprogramowaniem prawa:

a) błąd zgodności matematycznej lub logicznej na poziomie ca-łych aktów prawnych (przykładem może być Kodeks Pracy, którego regulacje są w wielu obszarach niezgodne matematycznie lub logicznie)5;

b) błędy semantyczne lub zakresowe poszczególnych przepisów prawnych np.: „najpóźniej po”, która to fraza sprowadza się do nieosiągalnego dla percepcji ludzkiej nomenu;

c) wątpliwe prawnie modyfikacje znaczenia pierwotnej treści przepisów lub norm prawnych zawartych legalnych źródłach prawnych – np.: Wytyczne Komisji Europejskiej zmieniającej znaczenie normy prawnej, zawartej w Rozporządzeniach UE; 5 M. Miąsko, Eksplikacja relacji między krajowymi, unijnymi i międzynarodowymi normami czasu pracy kierowców w kontekście rozporządzenia 561/2006 WE – ujęcie komparatystyczne. (Książka w przygotowaniu w zbiorach Autorki).

118

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law d) problem z wykształceniem się dominującej linii orzeczniczej sądów, sprzecznej z treścią przepisu;

e) problem z interpretacją sformułowań nieostrych np.: „nie-zwłocznie”.

Skutki wpływu rozwoju sztucznej inteligencji

na sektor prawniczy

Z uwagi na podobieństwo zasad realizacji audytów w przedsiębiorstwach do realizacji obsługi prawnej przez kancelarie prawne, można domniemywać, iż w relatywnie nieodległej przyszłości, algorytmy (w tym algorytmy AI), przejmą w ogromnej mierze rolę prawników oraz obsługi prawnej. Nie ma już bowiem żadnych ograniczeń technologicznych, które nie pozwalałyby w dającej się przewidzieć przyszłości, udzielać poradnictwa prawnego na nieporównanie wyższym poziomie jakościowym, względem tradycyjnych metod udzielania poradnictwa prawnego.

Skutki wpływu rozwoju sztucznej inteligencji

na orzecznictwo i pośrednio dewaluację systemu demokratycznego państwa

Nieuniknione jest rozszerzenie funkcji AI, także na orzecznictwo sądów, ponieważ można zauważyć, że w zasadzie proces audytowania dokumentów oraz procedur prawnych w przedsiębiorstwach oraz proces audytowania dokumentów, regulacji prawnych oraz środków dowodowych w postępowaniu sądowym, jest zbieżny. W konsekwencji należy spodziewać się na przestrzeni najbliższych dekad, powie-rzania AI elementów rozstrzygnięć sądowych. Jeśli orzecznictwo AI będzie oparte w jakimś zakresie, na precedensie lub dopasowaniu do dominującej linii orzeczniczej, contra legem, wówczas dojdzie do przejęcia przez AI kompetencji demokratycznego ustroju państwa. Nie jest to bynajmniej jedynie fantastyka, ponieważ ten pro-

Anna Nieć-Mrzygłód • Innowacyjne metody planowania...

119

ces (wstecznej demokratyzacji państwa), występuje w przypadkach orzecznictwa contra legem, gdzie pojedynczy sędzia niejednokrotnie dokonuje modyfikacji normy prawnej, stojącej w opozycji do jej treści. Mieści się to jednak, w przyjętej powszechnie akceptowanej Monteskiuszowskiej zasadzie trójpodziału władzy. Akceptacja jest podyktowana okolicznością, że wszystkie elementy władzy są w rękach gatunku ludzkiego.

Podsumowanie

Można założyć, że sztuczna inteligencja w dającej się przewidzieć przyszłości 1–2 dekad, radykalnie zmieni zasady realizacji audytów w przedsiębiorstwach, organizacji rynku prawniczego, sądownictwa oraz ogólnie wszelkich form organizacji obecnie znanego nam świata. Zaledwie 3 dekady temu w Polsce zapoczątkowano funkcjonowanie telefonii komórkowej oraz Internetu, co radykalnie zmie-niło funkcjonowanie państwa, przedsiębiorstw, sądownictwa, kancelarii prawnych oraz każdego obywatela w tym także małych dzieci.

Za kolejne 30 lat, dojdzie do niewspółmiernie bardziej radykalnych zmian w każdym obszarze funkcjonowania społeczeństwa w wyniku oddziaływania AI, względem zmian z ostatnich 30 lat.

* * *

Oby nie okazała się naiwna wizja Stanisława Lema, iż AI, podobnie jak maszyna Trurla, pozwoli się wyłączyć własnemu twórcy.

Bibliografia

Literatura

Herdan A., Stuss M., Krasodomska J., Audyt wewnętrzny jako narzędzie wspomagające efektywny nadzór korporacyjny w spółkach akcyjnych, Kraków 2009.

Lem S., Cyberiada – Maszyna Trurla, Kraków 2023.

120

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Miąsko M., Eksplikacja relacji między krajowymi, unijnymi i międzynarodowymi normami czasu pracy kierowców w kontekście rozporządzenia 561/2006

WE – ujęcie komparatystyczne. (Książka w przygotowaniu w zbiorach Autorki).

Miąsko M., Legalne sposoby uniknięcia odpowiedzialności za naruszenia czasu jazdy i okresów prowadzenia pojazdów, przez kierowców zawodowych, część 1 (audiobook), red. Kancelaria Prawna Viggen sp. j. M. Miąsko, M. Miąsko, 1 (2014).

PAP Media Room, online: https://pap-mediaroom.pl/nauka-i-technologie/

prawne-problemy-ze-sztuczna-inteligencja-czy-prawo-powstrzyma-bunt-maszyn, [dostęp: 03.04.2024].

Pieńkos J., Słownik łacińsko-polski. Łacina w nauce i kulturze, Warszawa 1996.

Wielka Encyklopedia PWN. Tom 2, Warszawa 2001.

Internet

https://pl.wikipedia.org/wiki/Audyt, [dostęp: 03.04.2024].

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Rafał Stasikowski*

Miejsce postępu technicznego

wśród determinant wyznaczających funkcje

administracji publicznej w jej dziejach

Abstrakt

Administracja publiczna zajmuje się wykonywaniem zadań publicznych aktualnych w danej epoce. Podstawowym czynnikiem oddziałującym na zakres spraw realizowanych przez nią jest technika, która determinuje przebieg i treść stosunków gospodarczych, oddziałuje pośrednio na rozwój społeczny, a w ten sposób wpływa na stosunki polityczne i inne sfery aktywności ludzkiej, w tym jego indywidualne życie, a nawet sposób myślenia. Celem pracy będzie wykazanie istotnego związku między rozwojem techniki od przełomu XVIII i XIX wieku aż po czasy współczesne, a zakresem funkcji wykonywanych przez daną administrację, kształt podstaw prawnych jej działania, stosowanych przez nią metod, środków i prawnych form działania, tak by na podstawie doświadczeń historycz-nych postawić w konkluzji – zakładając, iż może dojść do powtórzenia wcześniejszych scenariuszy rozwoju – futurystyczne tezy, co do wpływu sztucznej inteligencji na kształt przyszłych rozwiązań prawnych, zadań i funkcji administracji publicznej. W oparciu o te tezy możliwe będzie –

* Dr Rafał Stasikowski, prof. SGMK, Szkoła Główna Mikołaja Kopernika, Polska, e-mail: rafal.stasikowski@sgmk.edu.pl; https://orcid.org/0000-0003-2428-1452.

122

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law już zupełnie spekulatywne – zakreślenie kształtu przyszłego społeczeństwa i relacji międzyludzkich panujących w epoce pełnej dominacji techniki w życiu człowieka.

Słowa kluczowe

Funkcja administracyjna, sztuczna inteligencja, ideologia, religia, postęp techniczny.

Wprowadzenie

Jesteśmy aktualnie świadkami pojawienia się nowej techniki i jej zastosowania w postaci sztucznej inteligencji. Przed wyzwaniem związanym z odpowiednim wkomponowaniem jej w istniejące stosunki społeczne, gospodarcze oraz obowiązujący system aksjologiczny staje cała ludzkość. Podstawowym instrumentem nadania jej wła-ściwego miejsca oraz roli w życiu człowieka i wspólnot ludzkich będzie system prawny. Kształt regulacji prawnych odnoszących się do sztucznej inteligencji jest zasadniczo sprawą przyszłą, choć pojawił

się już pierwszy akt normatywny dotyczący sztucznej inteligencji.

W ostatnim czasie uchwalone zostało przez Parlament Europejski rozporządzenie o sztucznej inteligencji, tzw. AI Act. Wydaje się, iż pomocne w zakresie rozważań nad zakresem przedmiotowym przyszłych rozwiązań prawnych mogą być doświadczenia z minionych dwóch wieków, w których doszło do nadzwyczajnego w skali dziejów człowieka rozwoju techniki. Analiza ta poczyniona została przez pryzmat prawa administracyjnego i roli administracji w zakresie stosowania nowej techniki, co nie jest li tylko przypadkowym zbiegiem okoliczności. Pojawienie się nowego rozwiązania technicznego, a następnie jego wdrażanie i upowszechnianie stawało się bowiem zwykle sprawą publiczną, gdyż skutki i następstwa jego używania oddziaływały na wszystkich, wywołując często istotne zmiany w fun-damentach życia społecznego, gospodarczego, a nawet polityczno-

-ustrojowego. Dziś pojawienie się sztucznej inteligencji postrzegane jest bardziej przez pryzmat obaw niż szans. W takich sytuacjach jest naturalne zwracanie się w stronę państwa i jego administracji celem

Rafał Stasikowski • Miejsce postępu technicznego...

123

uzyskania ochrony przed ewentualnymi zagrożeniami. Oczekuje się od państwa, by zapewniło odpowiednią i kompleksową regulację prawną dla rozwoju i funkcjonowania nowej techniki, a administracji – by zapewniła skuteczne egzekwowanie prawa.

Współczesne oczekiwania względem państwa prawa i jego administracji w związku z rozwojem i zastosowaniami nowych technik są konsekwencją doświadczeń z przeszłości.

Do końca XVIII wieku postęp techniczny nie wpływał istotnie i spektakularnie na zmianę biegu dziejów ludzkości. Wymyślono szereg nowych, a nawet funkcjonujących po dziś dzień wynalazków, lecz żaden z nich nie zrewolucjonizował ówczesnego świata1, tzn. nie miał takiego znaczenia, aby zmienić bieg dziejów, doprowadzając do sytuacji, iż to technika i jej osiągnięcia wytyczą kierunek rozwoju świata i zdeterminują kształt stosunków społecznych, ekonomicznych, a w określonych sytuacjach spowodują zmiany polityczne.

Dopiero upowszechnienie, znanych już wcześniej, techniki wytopu żelaza z zastosowaniem koksu oraz szerokie zastosowanie zmody-fikowanej przez Jamesa Watta maszyny parowej uruchomiły nowe procesy w gospodarce, które zmieniły świat i rozpoczęły nową erę w dziejach – erę techniki i jej zastosowania. Była to istotna zmiana, gdyż na arenie dziejów pojawił się nowy czynnik oddziałujący na bieg historii. Do XIX wieku czynnikami determinującymi obraz wydarzeń politycznych, społecznych oraz gospodarczych były: określony system wartości, czyli ideologia oraz system religijny.

W opracowaniu stawiana jest teza, iż od końca XVIII wieku histo-ria świata Zachodu kształtowana jest przez trzy czynniki: ideologię, religię oraz technikę. Czynniki te „rywalizują” o palmę pierwszeń-stwa, oddziałując na sfery bytu i powinności. Istotne wydarzenia od końca XVIII wieku po czasy współczesne są konsekwencją dominującej mocy sprawczej działania jednego, dwóch lub wszystkich wskazanych wyżej czynników jednocześnie. Przedmiotem analizy w pracy będzie ukazanie procesu powstania nowoczesnej administracji publicznej i kształtowania się jej funkcji od momentu jej narodzin na przełomie XVIII i XIX wieku po czasy współczesne, 1 R. Cameron, L. Neal, Historia gospodarcza świata, Warszawa 2004, s. 81.

124

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law oznaczenia czynników wpływających na zakres jej zadań oraz roli postępu technicznego w przebiegu tych procesów. Punktem wyj-ścia będzie przedstawienie charakterystyki rozwiązań przyjętych w państwie policyjnym. Klamrą domykającą będzie próba nakre-ślenia zmian, jakie może spowodować sztuczna inteligencja w zakresie zadań i funkcji wykonywanych przez administrację publiczną w związku z jej oddziaływaniem na życie społeczno-gospodarcze i jednostkę oraz postawienie pytania czy sztuczna inteligencja może stać się nową „maszyną parową” dziejów przyszłych.

Administracja państwa policyjnego i jej funkcje Korzenie ery techniki i współczesnych państw sięgają państwa absolutnego zwanego także państwem policyjnym, w którym bieg wydarzeń był zdeterminowany dwoma czynnikami – ideologią państwa absolutnego oraz religią chrześcijańską posiadającą monopol w Europie. Rola techniki w oddziaływaniu na wydarzenia w tym okresie była znikoma.

Administracja publiczna i prawo administracyjne we współcze-snym rozumieniu zaczęła powstawać z końcem XVIII i początkiem XIX wieku. Jej kształt, rozwój i liczne modernizacje na przestrzeni kolejnych dwóch wieków pozostają w rozlicznych związkach z zasadami państwa policyjnego, stanowiąc ich zaprzeczenie, mo-dyfikację bądź nawiązanie. Decydującym momentem w procesie uruchomienia zmian była Rewolucja Francuska, która obaliła we Francji monarchię absolutną i zapoczątkowała wielkie przemiany ustroju i administracji publicznej2, wywołując zmiany także w innych państwach europejskich3. Skala przemian, które umożliwiły 2 Zob. J. Malec, Kształtowanie się nowoczesnej administracji i nauk administracyjnych pod wpływem przeobrażeń Rewolucji Francuskiej w: J. Malec, D. Malec, Historia administracji i myśli administracyjnej, Kraków 2003, s. 81.

3 Widać to najlepiej na przykładzie Francji i Niemiec. W pierwszym z krajów tworzenie się jednolitego prawa administracyjnego obowiązującego na całym terytorium Francji oraz nowej organizacji administracji publicznej, zapoczątko-wane zostało Wielką Rewolucją, która doszczętnie zniszczyła zastany reżim państwowy, czym utorowała drogę praktyce i ustawodawstwu do tworzenia nowego

Rafał Stasikowski • Miejsce postępu technicznego...

125

narodziny administracji publicznej i prawa administracyjnego najlepiej widoczna jest na tle państwa policyjnego przeciwko któremu skierowana była rewolucja. Podstawowe zasady państwa prawa były kształtowane, jako zwykłe zaprzeczenie zasad państwa policyjnego, tych najbardziej dokuczliwych i pogardzających godno-ścią osoby ludzkiej, nie uznających jej praw i wolności. Nakazuje to podchodzić do myśli oświeceniowej z dużo mniejszym zachwy-tem, gdyż wielkość osiągnięć filozofii oświecenia była w wyższym stopniu prostą reakcją na obecną wówczas rzeczywistość, aniżeli owocem przenikliwości myślenia teoretyczno-abstrakcyjnego pod-budowanego argumentacją aksjologiczną.

W państwie absolutnym władza państwowa była jednolita i wszechogarniająca. Skupiona w rękach jednego podmiotu – władcy, który sprawował ją z bożego nadania. Administracja publiczna nie była związana prawem, na które mogliby się powoływać admini-strowani (poddani)4. Miała jedynie obowiązek działania w interesie publicznym, który zresztą samodzielnie definiowała. Obowiązkiem władcy i działającego w jego imieniu (na zasadzie reprezentacji) aparatu administracyjnego była już nie tylko troska o czystość wiary5

swoich poddanych, a tym samym zapewnienie im życia wieczne-prawa administracyjnego dla nowej struktury administracyjnej. W Niemczech obrana została dokładnie odwrotna droga rozwoju. Nie został on wywołany gwał-townym kryzysem państwa i społeczeństwa, lecz powolnymi i systematycznymi procesami przemian w poszczególnych państewkach niemieckich. Przebiegały one w zróżnicowanym tempie i nigdzie pozostałości wcześniejszego okresu nie ustąpiły w całości nowemu prawo i wprowadzanym przez nie rozwiązaniom.

Dochodziło raczej do przenikania i ścierania się „starego” z „nowym”, z tym za-strzeżeniem, że owo „nowe” ostatecznie brało górę. Szerzej na ten temat: F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, Tuebingen 1928, s. 28 i przywołana tam literatura; Na ten temat na gruncie literatury polskiej także: L. Ehrlich, Prawo narodów, Lwów 1932, s. 93 i nast. warto zwrócić uwagę na sformułowania użyte dla opisania tych zjawisk przez Fleinera („In keinem einheitlichen Tempo sind diese Bewegungen in den einzelnen Laender vor sich gegangen, und nirgends hat das jeweilige neue Recht das alte vollkomen beseitigt; in jede Periode ragen rechtliche Ueberreste ueberwundener Anschauungen herein) oraz Ehrlicha („sprzeczne prądy”), które doskonale obrazują przemiany.

4 M. Zimmermann, Pojęcie administracji publicznej a „swobodne uznanie” , Po-znań 1959, s. 11.

5 We Francji władcy troszczyli się o czystość wiary rzymsko-katolickiej.

W państwach niemieckich zazwyczaj chodziło o czystość wiary ewangelickiej.

126

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law go (jak miało to miejsce w okresie poprzedzającym okres państwa policyjnego)6. Stworzona we Francji teoria ius politiae ( la police), która przejęta została przez inne państwa absolutne, rozszerzyła zakres właściwości władzy państwowej7. Zgodnie z nią władca absolutny dysponował prawem i obowiązkiem odwracania wszelkich niebezpieczeństw, które zagrażały doczesnej szczęśliwości, bezpieczeństwu i pomyślności swoich obywateli przy użyciu środków władczych. Tym samym przedmiotem zainteresowania władcy były sprawy doczesne poddanych. Do władcy i działającej w jego imieniu administracji należało ustalanie tego, co w konkretnym przypadku zapewni szczęśliwość i pomyślność poddanych, powodzenie każdego, pojedynczego człowieka8. Celem ius politiae stało się stworzenie

„dobrego stanu państwowości” (tj. politia). W teorii zakres sprawowanych zadań publicznych mógł być bardzo rozległy; w rzeczywistości jednak zaangażowanie fachowych urzędników skupiało się na przysparzaniu dochodów panującemu władcy, które przezna-czał na utrzymanie swojego dworu9, jak również wojska i administracji spraw zagranicznych. Nie oznaczało to, że władcy absolutni zrezygnowali z działania na rzecz ogółu. Działania takie były podej-mowane10, jednak ich skala była niewielka w porównaniu do możliwości, które stwarzały podstawy filozoficzno-ideologiczne państwa absolutnego11. Trudno tutaj mówić zatem o wykonywaniu przez ad-6 F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, s. 30.

7 Francja była od XVI–XVII wieku kreatorem rozwiązań ustrojowych. Głównie jej rozwiązania państwowe stały się wzorem dla innych państw europejskich. To tu stworzono pojęcie „suwerena”, jak również wzorzec „króla słońce”, co następnie w mniej lub bardziej zmodyfikowanych postaciach przejmowane było przez inne państwa. Zob. na temat wpływu rozwiązań francuskich na Prusy: W. Jellinek, Verwaltungsrecht, Berlin 1928, s. 81.

8 H. Maurer, Allgemeines Verwaltungsrecht, Muenchen 2006, s. 15.

9 Jaskrawym przykładem jest Francja, gdzie utrzymanie ogromnego dworu poszczególnych władców z dynastii Bourbonów rujnowało skarb państwa.

10 Zwrócić należy uwagę m.in. na realizację takich zadań publicznych jak budowa szlaków komunikacji lądowej i wodnej (dotyczy to np. krajów niemieckich), rozwoju usług pocztowych, budowy kanałów, fortyfikacji obronnych i innych obiektów militarnych.

11 Podstawy filozoficzne dla państwa absolutnego powstały na zamówienie władców absolutnych i miały służyć uzasadnieniu ich władzy. Uzasadnienie dla władzy absolutnej stworzyli m.in. Bodin, który w swoim dziele o państwie wpro-

Rafał Stasikowski • Miejsce postępu technicznego...

127

ministrację jakiś kompleksowych i względnie stałych funkcji administracyjnych. Realizowane są raczej rozproszone i przypadkowe zadania z zakresu policji administracyjnej i reglamentacji.

Władca absolutny, i działający w jego imieniu aparat złożony z zawodowych urzędników, nie działał na podstawie norm prawnych, lecz na podstawie wewnętrznych instrukcji (niejednokrotnie tajnych dla obywateli) wydanych przez władcę lub stojące hierarchicznie wyżej władze aparatu administracyjnego, które mogły być zmienione w dowolny sposób i w każdym czasie w zależności od doraźnych potrzeb12. Przepisy wewnętrzne wiązały jednak tylko jednostronnie. Obywatel w takich sytuacjach nie mógł skorzystać z ochrony prawnej. Nie miał on żadnych praw wobec administra-cji13. Stosunek pomiędzy władzą państwową a poddanym w państwie policyjnym określić można jako stosunek bezwarunkowej podległości poddanego państwu14. Administracja załatwiając pewne sprawy po myśli obywatela nie czyniła tego ze względu na chęć ochrony jego interesów, lecz zwykle ze względu na swoje własne interesy15. Obowiązkiem obywatela było podporządkowanie się normom wewnętrznym, które go wiązały, a które dla samej administracji – jak już zaznaczono wyżej – nie były wiążące i mogła je zmienić w razie potrzeby.

W okresie państwa policyjnego bieg wydarzeń pozostaje zatem pod wpływem ideologii oraz religii, a marginalna rola techniki w oddziaływaniu na wydarzenia wynika z braku spektakularnych innowacji technicznych.

wadził pojęcie „suwerena”. Zob. na ten temat: W. Jellinek, Verwaltungsrecht, s. 81.

12 W. Merk, Deutsches Verwaltungsrech, Berlin 1962, s. 217; F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, s. 31.

13 Fleiner podaje pewne przysłowie prawne: „ in Polizeisachen gibt es keine Appellation” , w: Institutionen des Deutschen Verwaltungsrechts, s. 31.

14 W. Jellinek, Verwaltungsrecht, Berlin 1928, s. 81.

15 E. Ochendowski, Prawo administracyjne. Część ogólna, Toruń 2001, s. 46.

128

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Administracja liberalnego państwa prawa i jej funkcje Słabości państwa absolutnego, postępujący rozkwit techniki i związanego z nią przemysłu stały się przyczynami rewolucji, na gruzach których ukształtowany został nowy model państwa z nowoczesną administracją publiczną16 – liberalnego państwa prawa17, współczesnej administracji, nowych struktur społecznych z nowymi grupa-mi społecznymi (proletariatu i fabrykantów).

Dochodzenie do standardów państwa prawa było jednak pewnym procesem, w czasie którego stare instytucje współistniały z nowymi rozwiązaniami (podobnie, jak miało to miejsce w okresach wcześniejszych, jak i późniejszych).

Etapem przejściowym na tej drodze była tzw. monarchia kon-stytucyjna (zwana inaczej państwem konstytucyjnym). Kreatorem podstawowych idei na kontynencie europejskim była Francja18. Idee te były przejmowane przez inne państwa europejskie, w tym również przez państwa niemieckie19. Podstawową rolę odegrały: idea podziału władzy oraz idea praw podstawowych (praw naturalny-16 F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, s. 35. Z kolei O. Mayer wskazuje, że państwo policyjne było okresem przejściowym pomiędzy „starym prawem” poprzedzającym państwo policyjne a „tym kształtem rzeczy, który uka-zuje nam obecna rzeczywistość”, w: Deutsches Verwaltungsrecht, s. 54.

17 Dokładne określenie schyłku okresu państw policyjnych w Europie nie jest możliwe. Następowałoto w poszczególnych państwach w różnych momen-tach i niejednokrotnie w diametralnie odmiennych okolicznościach. Najlepszym przykładem są Francja i Prusy. W pierwszym przypadku doszło u schyłku XVIII wieku do przeobrażeń rewolucyjnych, a w drugim – do ewolucyjnych przemian, w czasie których na przestrzeni wielu dziesięcioleci ścierały się stare instytucje z nowymi. W przypadku Prus jako ostateczną datę wyparcia elementów państwa policyjnego wskazuje się nawet 1848 rok (data Wiosny Ludów); tak na przykład: W. Jellinek, Verwaltungsrecht, s. 84.

18 Nie należy również zapominać o Stanach Zjednoczonych Ameryki Północnej, które ze względu na rozpoczęcie budowy nowego państwa dopiero w XVIII wieku (i cały szereg innych specjalnych warunków) stały się swego rodzaju „po-ligonem”, na którym testowano nowe idee. Doświadczenia te docierały do Europy i wywierały jakiś wpływ na kierunek zachodzących zmian.

19 O. Mayer, Deutsches Verwaltungsrecht, reprint 3. wyd. z 1924 r., Berlin 2004, s. 55. Pisze on między innymi, że „nie ma dlatego sensu jeżyć się przeciwko temu, że także my [tzn. Niemcy – R.S], przejęliśmy te podstawowe idee” z Francji.

Rafał Stasikowski • Miejsce postępu technicznego...

129

ch)20. W pierwszym przypadku chodziło przede wszystkim o roz-dział dwóch władz: ustawodawczej i wykonawczej. Wyodrębnianie się władzy sądowniczej przebiegało w poszczególnych państwach różnymi drogami i zwykle swe korzenie miało już w państwach policyjnych. Odmienność dróg widać na przykładzie Francji21 i krajów niemieckich22. Jest to szczególnie dobrze widoczne na przykładzie kształtowania się sądownictwa administracyjnego23. Wspólne dla wszystkich krajów europejskich jest jednak to, że tak nad administracją, jak i sądami przewagę zyskała najwyższa władza państwowa w postaci władzy ustawodawczej24. W miejsce jednoosobowej władzy absolutnej (skupiającej stanowienie prawa oraz wykonawstwo) pojawiło się w monarchii konstytucyjnej kilka ośrodków sprawowania 20 Szerzej na temat podstaw historyczno-filozoficznych państwa konstytucyj-nego oraz idei praw podstawowych, ich rozwoju oraz oddziaływania na przemiany społeczne i polityczne w Europie kontynentalnej, jak również w Stanach Zjednoczonych Ameryki Północnej, w: W. Merk, Deutsches Verwaltungsrech, s. 234–241.

21 Zob. F. Fleiner, Institutionen des Deutschen Verwaltungsrechst, s. 36; na temat sądownictwa administracyjnego we Francji i jego rozwoju także w: W. Brzeziński, Sądowa kontrola administracji we Francji, Warszawa 1960; J. Langrod, Instytucje prawa administracyjnego. Zarys części ogólnej, Zakamycze 2003 (reprint), s. 314

i nast. W.L. Jaworski, Nauka prawa administracyjnego. Zagadnienia ogólne, Warszawa 1924, s. 42–52; D. Malec w: J. Malec, D. Malec, Historia administracji i myśli administracyjnej, Kraków 2003, s. 227 i nast.

22 Procesy te nie były jednolite we wszystkich krajach niemieckich, zob.

F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, s. 37. Por. W. Jellinek, Verwaltungsrecht, s. 81–84.

23 Proces ten nie przebiegał w tym samym czasie i według jednolitego wzoru we wszystkich krajach niemieckich. Różnice sprowadzały się zarówno do aspektów organizacyjnych, jak i ich zakresu kognicji sądów administracyjnych. Dla przykładu w krajach południowoniemieckich tworzono jeden organizacyjnie wyodrębniony sąd administracyjny, którego zakres działania ograniczony został do ochrony praw podmiotowych publicznych obywateli. Z kolei w Prusach wprowadzono trójinstan-cyjny system sądownictwa administracyjnego dla właściwości których należała ochrona przedmiotowego porządku prawnego w państwie, a ochrona podmiotowych praw publicznych zeszła na plan dalszy. Sądom zwyczajnym pozostawiono zaś rozpoznawanie spraw zobowiązaniowych. Szerzej na ten temat: D. Malec, Sądownictwo administracyjne, w: J. Malec, D. Malec, Historia administracji i myśli administracyjnej, s. 234 i nast.

24 F. Fleiner, Institutionen des Deutschen Verwaltungsrechts, s. 37. na ten temat szerzej: D. Malec, Sądownictwo administracyjne [w:] J. Malec, D. Malec, Historia administracji i myśli administracyjnej, s. 234 i nast.

130

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law władzy państwowej, z których na plan pierwszy – w miejsce władcy

– wysunął się organ władzy ustawodawczej25. Władcy pozostawiono egzekutywę, którą sprawuje kierując się dobrem publicznym (oce-nianym według własnego przekonania – przynajmniej w początko-wym okresie) przy pomocy aparatu administracyjnego opartego na zawodowej kadrze urzędników, zorganizowanego hierarchicznie i podporządkowanego panującemu (podobnie jak w państwie policyjnym). Administracja ta działała jednak na odmiennych zasadach, gdyż swoboda jej działalności ograniczona była przepisami ustaw pochodzących od władzy ustawodawczej. Postępowanie bez konieczności ulegania przymusowi lub ograniczeniom (a więc i działanie na tych samych zasadach, co w państwie policyjnym) pozostawało jedynie w tych sferach, w których nie zdążono jeszcze uchwalić przepisów ustawowych26. Ponadto przed parlamentem odpowiedzialność ponosili członkowie rządów (ministrowie)27. W przeciwieństwie do państwa absolutnego źródłem władzy nie była już wola boska, lecz wola narodu28.

W państwie prawa (państwa praworządnego), jako fundament przyjęto zasady legalizmu29, co oznaczało, że wszelka działalność administracji, a w szczególności dotycząca praw i obowiązków obywa-telskich, musiała być oparta na ustawie. „ Państwo prawa to państwo, 25 M. Zimmermann, Pojęcie administracji publicznej a „ swobodne uznanie” , s. 11.

26 Na ten temat m. in.: E. Ochendowski, Prawo administracyjne. Część ogólna, s. 47; M. Zimmermann, Pojęcie administracji publicznej a swobodne uznanie, s. 11.

27 M. Zimmermann, Pojęcie administracji publicznej a „swobodne uznanie” , s. 12.

28 Zmiana podmiotu legitymizującego sprawowanie władzy państwowej nie nastąpiła z dnia na dzień. Początkowo (tj. w okresie monarchii konstytucyjnej) jedynie parlament wyprowadzał swoją władzę z woli narodu. Stopniowe regulowanie działalności administracji publicznej ustawą oznaczało, że również administracja i stojący na jej czele rząd swoją władzę wywodził z woli narodu. Zakres działalności „swobodnej” (tj. takiej, która nie była jeszcze objęta regulacją usta-wową) był jednak jeszcze stosunkowo szeroki i w tym zakresie podmiot legitymi-zujący działania władzy wykonawczej pozostał niezmieniony, choć ścięcie ostat-niego z panujących we Francji Bourbonów i wprowadzenie republiki podważył

w całej Europie boski rodowód władzy królewskiej; porównaj: O. Mayer, Deutsches Verwaltungsrecht, s. 57.

29 Szerzej na temat jej istoty: E. Olejniczak-Szałowska, w: Prawo administracyjne. Pojęcia, instytucje, zasady w teorii i orzecznictwie, red. M. Stahl, Warszawa 2002, s. 96 i nast.

Rafał Stasikowski • Miejsce postępu technicznego...

131

które nie ustawia się ponad prawem, lecz w prawie”30. Przepisy regulujące stosunki pomiędzy państwem, jego organami oraz obywatelem zaczęły tworzyć nową dziedzinę prawa, zwanego „publicznym”31. Po-wstałe w ten sposób m.in. prawo administracyjne ma moc dwustron-nie obowiązującą – zobowiązuje, tak samo organy władzy państwowej, jak i obywateli. Stosunek pomiędzy obywatelem a organem administracyjnym staje się stosunkiem prawnym, którego treścią były i są również dziś wzajemne prawa i obowiązki wynikające z ustaw.

W połowie wieku XIX obowiązywała już w pełni zasada „związania ustawowego administracji”, co oznaczało, że każda ingerencja administracji, każdy akt administracyjny musiał wynikać i być zgodny z ustawą, a żaden obowiązek lub ograniczenie nie mogło być nało-żone na obywatela bez ustawowej podstawy32. Działalność swobod-na administracji nie została wykluczona, jednak możliwa była tylko w tych sytuacjach, w których zezwalała na to ustawa i w granicach przez nią zakreślonych33. W związku z faktem, iż administracja roz-strzygała jednostronnie w sprawach praw i obowiązków obywatel-skich, jej działalność poddana została kontroli sądów administra-cyjnych34.

W XIX wieku doszło również do zasadniczych zmian ideologicznych. Stworzona została liberalna myśl państwowa, która ukształto-wała na wiele dziesięcioleci potencjalny zakres zadań publicznych i sprawowanych przez administrację publiczną funkcji administra-cyjnych35. Podstawowe założenie liberalizmu wiązało się z uczynie-niem z jednostki centralnego punktu (punktu odniesienia) państwa i życia społeczno-gospodarczego, skutkiem czego państwo musiało zrezygnować w istotnym zakresie z dotychczasowego wpływu na 30 Myśl Gierkego, którą podaję za O. Mayer, Deutsches Verwaltungsrecht, s. 58, przyp. nr 7.

31 We wcześniejszych wiekach ukształtowały się dwie dziedziny prawa sądowego, tj. prawo cywilne oraz prawo karne, które czasami zaliczane jest do szeroko rozumianego prawa publicznego.

32 T. Kuta, Funkcje współczesnej administracji i sposoby ich realizacji, Wrocław 1992, s. 9.

33 E. Ochendowski, Prawo administracyjne. Część ogólna, s. 48.

34 M. Zimmermann, Pojęcie administracji publicznej a „ swobodne uznanie”, s. 14.

35 T. Kuta, Funkcje współczesnej administracji i sposoby ich realizacji, s. 8–9.

132

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law bieg procesów społeczno-gospodarczych36 i zmniejszenia swojego wpływu na życie jednostek.

Wprowadzenie zasady podziału władzy, konstytucyjne zagwarantowanie obywatelom szeregu praw wolnościowych pociągnę-ło za sobą związanie administracji ustawą37. Każda jej ingerencja w wolność jednostki lub w jej prawo własności była dopuszczalna tylko na podstawie wyraźnego przepisu ustawy. Ostateczne zerwanie z poddaństwem i innymi pozostałościami państwa stanowego związane było z przyjęciem zasady wolności jednostki oraz zasady

„wolnej gospodarki”. Liberalne państwo prawne ograniczyło zaangażowanie administracji publicznej do tych działań, które miały zabezpieczyć wolność jednostki i wolność gospodarczą. Wychodzi-ło ono z założenia, że zagwarantowanie jednostce szerokiego wa-chlarza wolności będzie wystarczające dla zabezpieczenia jej pomyślnego życia. Jednostka korzystając z nich będzie w stanie samodzielnie zorganizować sobie konieczne do życia i własnego rozwoju dobra oraz usługi. Podobne założenie odnosiło się do gospodarki.

Wolna konkurencja pomiędzy przedsiębiorcami miała zapewnić właściwą samoregulację procesów gospodarczych, rozwój techniki i bezpieczne jej wykorzystanie, z kolei ingerencja administracji mogła spowodować jedynie zakłócenia w rynkowej grze podaży i popy-tu. Zaangażowanie administracji było dopuszczalne jedynie w celu ochrony obu wzorcowych modeli, tj. ochrony wolności i praw jednostki oraz wolności gospodarczej. Założenia te w jakimś stopniu przyczyniły się do wybuchu ekspansji techniczno-przemysłowej.

Ułatwiły one rozwój techniki, stwarzając warunki i przyzwolenie społeczne na prowadzenie badań naukowych, wdrażanie nowych pomysłów i eksperymentowanie, bez konieczności uwzględniania ograniczeń wypływających z religii lub ideologii.

Administracja państwa liberalnego stała się tym samym „stró-żem nocnym” istniejącego porządku prawnego, czuwającym nad bezpieczeństwem, porządkiem i spokojem oraz nad przestrzega-36 U. Schliesky, Oeffentliches Wirtschaftsrecht. Deutsche und europaeische Grundlagen, Heidelberg 2003, s. 14.

37 Szerzej na temat zmian w administracji publicznej: E. Forsthoff, Lehrbuch des Verwaltungsrecht. Allgemeiner Teil, Muenchen 1973, s. 31 i nast.

Rafał Stasikowski • Miejsce postępu technicznego...

133

niem reguł wolnej gospodarki. Ciężar działalności administracji skupił się na władczym ingerowaniu tylko tam, gdzie chodziło o zabezpieczenie dobra ogółu w konflikcie z interesem indywidualnym, jak również wydawaniu zakazów, nakazów i pozwoleń (głównie na działalność gospodarczą) opartych na istniejącym porządku praw-nym38. Istota administracji sprowadzała się do stosowania prawa i tym samym ustalania stosunków administracyjnoprawnych i wy-dawania aktów administracyjnych. Podstawową spełnianą przez administrację funkcją stała się więc funkcja reglamentacyjno-porządkowa oraz nadzorcza, a prawną formą działania administracji

– formalny akt administracyjny39.

Istota funkcji policyjnej (porządkowej) sprowadza się do ochrony porządku, bezpieczeństwa i spokoju publicznego40 przed różnego rodzaju niebezpieczeństwami. Jest to zatem sfera działalności administracji publicznej, w której chodzi o obronę przed zagroże-niami41. Z kolei pod pojęciem reglamentacji rozumie się działalność kreatywną, podejmowaną dla celowego kształtowania pewnej sfery stosunków społecznych lub gospodarczych, związaną z wyraźną in-gerencją państwa w tą sferę w celu wywołania w niej skutków, uzna-nych przez organy państwa za pożądane z punktu widzenia interesu publicznego, determinowanego przez inne cele, aniżeli ochrona porządku i bezpieczeństwa publicznego42. Celem funkcji reglamen-38 T. Kuta, Funkcje współczesnej administracji i sposoby ich realizacji, s. 9.

39 Zob. E. Forsthoff, Lehrbuch des Verwaltungsrecht. Allgemeiner Teil, Muenchen 1973, s. 31 i nast. (zaznaczyć należy, iż Ernest Forsthoff znalazł się na liście na-ukowców popierających aktywnie nazizm i nigdy oficjalnie nie odciął się od tej części swojego życiorysu); W. Jellinek, Verwaltungsrecht, s. 86; T. Kuta, Funkcje współczesnej administracji i sposoby ich realizacji, s. 10.

40 Taka definicja policji pojawiła się po raz pierwszy w pruskim Landrechcie z 1794 r., zgodnie z którym „Rzeczą policji jest tworzyć potrzebne urządzenia, zapewniające publiczny spokój, bezpieczeństwo i porządek, jak również zwalczać wszelkie niebezpieczeństwa, zagrażające ogółowi i poszczególnym jednostkom”

w tłumaczeniu S. Kasznicy, Polskie prawo administracyjne, s. 135–136.

41 E. Schmidt-Assmann, Das allgemeine Verwaltungsrecht als Ordnungsidee.

Grundlagen und Aufgaben der verwaltungsrechtlichen Systembildung, Heidelberg 2006, s. 166 i literatura tam powołana.

42 T. Kocowski, w: A. Borkowski, A. Chełmoński, M. Guziński, K. Kiczka, L. Kieres, T. Kocowski, Administracyjne prawo gospodarcze, Wrocław 2005, s. 502. Wskazać należy, że w doktrynie pojęcie reglamentacji używane jest w kilku znacze-

134

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law tacyjnej jest ograniczanie praw i wolności jednostki w pewnych sferach życia społecznego i gospodarczego w imię ochrony interesu (lub interesów) publicznego i dóbr istotnych z punktu widzenia tego interesu43. Chodzi tutaj o ograniczenia na zasadzie wyjątku względem wolności panujących w tych sferach. Istota imperatywnej działalność administracji nadzorczej, wiązała się ze stawianiem granic interesom prywatnym i tworzeniu dwustronnych stosunków admi-nistracyjnych44. Do ich powstania dochodzi: po pierwsze na tle egzekwowania przez organy nadzorcze przestrzegania bezpośrednio obowiązujących nakazów i zakazów, po drugie na tle konkretyzacji w formie aktu indywidualnego norm policyjnych i reglamentacyj-nych obowiązujących względnie45.

Na powyższe kształtowanie się zakresu funkcji administracji oraz roli ideologii w dziejach Europy Zachodniej w wieku XIX

spojrzeć należy przez pryzmat postępu technicznego, bez którego byłoby niemożliwe zrywanie z pozostałościami feudalnych porząd-ków prawnych, społecznych i ekonomicznych. Rozwój techniki od początku XIX wieku aż po zakończenie II wojny światowej nie ma przykładu w dotychczasowych dziejach ludzkości. Skala osiągnięć technicznych człowieka jest zachwycająca, a lista wynalazków niach. W ujęciu najszerszym oznacza ona objęcie regulacją prawną określonych dziedzin życia społecznego i gospodarczego, uprzednio nią nie objętych. Alternatywą dla tak rozumianej reglamentacji jest wolność życia społecznego i gospodarczego. W ujęciu szerokim reglamentacja oznacza ograniczanie pewnych sfer wolności jednostki i jej grup poprzez ustanawianie ram (ograniczeń) prawnych dla tychże sfer objętych wolnością. W ujęciu ścisłym reglamentacja oznacza re-strykcyjną interwencję publiczną polegającą na zapewnieniu, zgodnie z interesem publicznym, funkcjonowania pewnych sfer życia społecznego i gospodarczego. Tak też w odniesieniu do reglamentacji gospodarczej: K. Strzyczkowski, Prawo gospodarcze publiczne, Warszawa 2007, s. 143. Por. również: A. Chełmoński, Instytucje administracyjne w zarządzaniu gospodarką narodową, w: System prawa administracyjnego, t. IV, Wrocław 1980; K. Strzyczkowski, Rola współczesnej administracji w gospodarce (zagadnienia prawne), Warszawa 1992, s. 99.

43 T. Kocowski, w: A. Borkowski, A. Chełmoński, M. Guziński, K. Kiczka, L. Kieres, T. Kocowski, Administracyjne prawo gospodarcze, s. 509.

44 E. Schmidt-Assmann, Das allgemeine Verwaltungsrecht als Ordnungsidee.

Grundlagen und Aufgaben der verwaltungsrechtlichen Systembildung, Heidelberg 2006, s. 166.

45 K. Strzyczkowski, Prawo gospodarcze publiczne, Warszawa 2007, s. 145–146.

Rafał Stasikowski • Miejsce postępu technicznego...

135

i odkryć wymagałaby wielotomowego dzieła. Nie jest możliwe wy-mienienie nawet podstawowych z nich. Można jedynie wspomnieć o tych osiągnięciach, które miały największy wpływ na zmiany świata, ustroju państw oraz relacji społeczno-gospodarczych. Do nich zaliczyć można tanią stal, która zaczyna być produkowana w milionach ton (roczna produkcja stali w 1865 r wynosiła 0,5 mln ton, a 50 mln ton przed I wojną światową). Rozwijał się transport i komunikacja, w tym doszło do powstania kolei żelaznych (dzięki rozwojowi hutnictwa i górnictwa) i powstania rozkwitu przemysłu budowy maszyn (lokomotyw parowych, wagonów, a następnie sil-ników) oraz transportu morskiego opartego o parowce (w miejsce żaglowców). Erę transportu oceanicznego i tym samym handlu na nieznaną skalę rozpoczęło wprowadzenie statków napędzanych silnikami, budowanie kadłubów ze stali, wprowadzenie śrub napę-dowych, a wreszcie otwarcie w 1869 r. Kanału Sueskiego, czy wyna-lezienie przez S. Moorse telegrafu elektrycznego. W 1876 r. Graham Bell opatentował telefon, ok. 1800 r. wynaleziono maszynę papier-niczą oraz cylindryczną prasę drukarską, dzięki czemu ok. 1900 r.

w najważniejszych miastach świata wydaje się kilka milionów sztuk gazet. W 1895 r. G. Marconi wynalazł radio, a w latach 60-tych XIX

wieku rozpoczęła się produkcja maszyn do pisania. W tym samym czasie doszło do powstania nowej dziedziny nauki jaką jest chemia.

Bez niej nie tylko nie powstałby gramofon, czy kamera filmowa, lecz niemożliwe byłoby konserwowanie i przechowywanie żywno-ści, co przyczyniło się do likwidacji głodu. Dzięki niej rozwinął się przemysł metalurgiczny, włókienniczy, farmaceutyczny, rolniczy (sztuczne nawozy), przetwórczy i wiele innych46. Wspomniane zostały tylko nieliczne osiągnięcia techniczne. W odniesieniu do każdego z nich możliwe jest prowadzenie argumentacji wskazującej na zmiany w świecie wywołane pojawieniem się zastosowania danego rozwiązania technicznego. Można np. wykazywać wpływ maszyn umożliwiających rozwój prasy na rewolucje (np. Rewolucję Paź-dziernikową) i zmiany ustrojowe, które miały miejsce od początku XIX wieku do zakończenia II wojny światowej.

46 R. Cameron, L. Neal, Historia gospodarcza świata, s. 211–218.

136

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Okres państwa liberalnego jest zatem czasem, w którym bieg poszczególnych wydarzeń determinowany jest przez jeden lub kilka czynników łącznie: ideologię liberalnego państwa prawa, w dal-szym ciągu silną religię oraz przede wszystkim technikę kształtu-jącą obraz stosunków gospodarczych i zmienianych przez nie stosunków społecznych. O ile obowiązująca ideologia i pozycja religii w państwie przyjęły wymiar prawny, regulowany w konstytucjach i szeregu ustaw zwykłych, o tyle rozwój techniki i jej zastosowania pozostawały poza zakresem zainteresowania prawa i były domeną sektora prywatnego. W okresie tym technika staje się głównym kreatorem zmian zachodzących w świecie.

Administracja państwa dobrobytu i jej funkcje Założenia ideologiczne liberalnego państwa prawa weryfikowane były na przestrzeni całego XIX wieku, a w szczególności w drugiej jego połowie. Okazało się wówczas, iż samo zabezpieczenie wolności jednostki oraz wolności gospodarczej nie gwarantuje pomyślnego rozwoju tak jednostki, społeczeństwa, jak i rozwoju gospodarczego.

Burzliwy rozwój przemysłu, niespotykany jak dotąd postęp techniki pozostający poza zakresem kontroli i nadzoru ze strony państwa, gwałtowne procesy urbanizacyjne, dwu i półkrotne zwiększenie się liczby mieszkańców Europy na przestrzeni jednego tylko wieku47, wytworzyło nieznaną sytuację, która zdewaluowała przyjęty model zaangażowania administracji publicznej w życie społeczno-gospo-darcze48. Narastające patologie w wielu różnych dziedzinach życia, 47 Liczba mieszkańców Europy, pomimo nie spotykanych w dotychczasowej historii strat ludzkich wywołanych okresem wojen napoleońskich, pomiędzy rokiem 1800 a rokiem 1914 zwiększyła się z około 180.000.000 do 452.000.000.

W niektórych państwach (np. w Niemczech) skala przyrostu była jeszcze większa: zob. W. Sombart, Der moderne Kapitalismus, Berlin 1928, s. 354 i nast. podaję za: E. Forsthoff, Rechtsfragen der leistenden Verwaltung, Stuttgart 1959, s. 24–25.

48 Ideologia liberalnego państwa prawnego i związany z tym model „obecno-ści” administracji publicznej w życiu jednostki odnosił się do trybu życia człowieka sprzed rewolucji naukowo-przemysłowej. W istocie rzeczy dotyczyła ona człowieka prowadzącego samowystarczalne i ustabilizowane życie według tych samych reguł

Rafał Stasikowski • Miejsce postępu technicznego...

137

strajki, ruchy rewolucyjne, epidemie dziesiątkujące ludność (wywoływane głównie fatalnymi warunkami sanitarnymi w miastach oraz zanieczyszczaniem wód pitnych ściekami socjalno-bytowymi oraz przemysłowymi), nowe zagrożenia dla bezpieczeństwa ludności wywoływane nowymi rozwiązaniami technicznymi i tym podobne zjawiska zagrażające ukształtowanym stosunkom społecznym, uświadamiały klasom rządzącym, iż musi dojść do zmiany ideologii rządzącej państwem i życiem społeczno-gospodarczym, a w ten sposób – do zmiany roli administracji w życiu jednostki. Był to okres, w którym po raz pierwszy zaczęto dostrzegać związek pomiędzy rozwojem techniki i jej wpływem na kształt stosunków społeczno-

-gospodarczych, a także ustrojowych ówczesnych państw. Zauwa-żono, iż rozwój techniki oraz jej zastosowanie w przemyśle i życiu codziennym nie jest poddane regulacjom prawnym, co powoduje szereg negatywnych reperkusji w życiu jednostki oraz życiu zbiorowym państwa. Uznano wówczas, iż antidotum na pojawiające się patologie społeczno-gospodarcze winno być zwiększenie roli administracji publicznej i wprowadzenie zmian sprowadzających się do zwiększenia zakresu jej zaangażowania w życie obywateli49. W wyniku tych procesów zmieniły się funkcje administracji, która dodatkowo obciążona została szeregiem nowych zadań publicznych sprowadzających się do zapewnienia ludności różnego rodzaju usług, które co bliscy przodkowie, z następującymi co prawda zmianami, lecz rozciągającymi się na przestrzeni wielu lat. Był to można by powiedzieć dla zdecydowanej większości ludzi model życia wiejskiego lub małomiasteczkowego, z głęboką zależnością mieszkańców miasteczek od rolnictwa (notabene znaczna część mieszczan prowa-dziła pod miastami większe lub mniejsze gospodarstwa rolne). Przemiany, które nastąpiły na przestrzeni XIX wieku, doprowadziły do powstania nowego modelu życia

– modelu życia wielkomiejskiego. Człowiek prowadzący taki sposób życia przestał

być samowystarczalny i oczekiwał, iż w to miejsce pojawi się administracja, która zaspokoi potrzeby, które we wcześniejszych okresach jego przodkowie zaspokajali sobie własnym sumptem. Przemiany, które nastąpiły w rozrastających się wielkich aglomeracjach miejskich „rozlały się” również na tereny ogólnie mówiąc wiejskie, zmieniając sposób życia mieszkających tam ludzi.

49 Na temat istoty państwa prawnego i przemian, do których doszło w XIX wieku zob.: J. Posłuszny, O nowej koncepcji administracji świadczącej, w: Aktualne problemy administracji i prawa administracyjnego, red. J. Posłuszny, Przemyśl – Rze-szów 2003, s. 297 i nast.; por. F. Longchamps, Z rodowodu prawa podmiotowego,

„Acta Universitatsis Wratislaviensis”, Wrocław 1961, s. 123 i nast.

138

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law zabezpieczały jej sprawy socjalno-bytowe. Całość zadań administracji z tej sfery jest współcześnie obejmowana pojęciem funkcji administracji świadczącej. Proces jej rozwoju został zakłócony przez dwie wojny światowe. Dopiero więc zakończenie II wojny światowej umożliwiło kontynuację procesu budowania państw socjalnych na Zachodzie Europy. Po 1945 r. stworzony został rozbudowany system administracji państwowej zajmującej się spełnianiem rozmaitych świadczeń (usług) na rzecz ludności50 w celu poprawy jej warunków bytowych, takich jak usługi oświatowe, opieka zdrowotna, opieka na wypadek starości lub zdarzeń losowych, system ubezpieczenia społecznego, pomoc społeczna, szkolnictwo wyższe itp. Obok tego zaczęła rozwijać się kompleksowa aktywność administracji publicznej w zakresie planowania. Wśród jego rozlicznych postaci kluczo-wą rolę odgrywało planowanie finansowe, planowanie przestrzenią oraz planowania szczegółowe związane z rozwojem społeczno-gospodarczym w istotnych dziedzinach życia51.

Cechą zasadniczą państwa dobrobytu była nadzwyczajna i nie-spotykana w dotychczasowej historii ekspansja prawa administracyjnego oraz rozrost jednostek organizacyjnych egzekutywy, które zajmowały się wykonywaniem tegoż prawa. Celami państwa pomyślności społecznej była realizacja praw wolnościowych jednostki przez socjalny dobrobyt, stwarzający jednostce szanse samorealizacji. Cele te urzeczywistniać miała administracja, która obok odpowiedzialności za porządek publiczny przejęła odpowiedzialność za bezpieczeństwo socjalne, koniunkturę oraz prosperity społeczno-gospodarcze52. Państwo dysponowało już wówczas pełną świadomością znaczenia zastosowania techniki w życiu społeczno-

-gospodarczym i jej roli w kształtowaniu obrazu życia ówczesnego 50 W nauce niemieckiej ten model administracji określa się mianem „modelu klasycznego”, zob. E. Grande, Entlastung des Staates durch Liberalisierung und Privatisierung? Zum Funktionswandel des Staates im Telekommunikationssektor,

w: Abschied vom Staat – Rueckehr zum Staat? , Baden-Baden 1993, s. 388–389.

51 Szerzej na ten temat: R. Stasikowski, Funkcja regulacyjna administracji publicznej. Studium z zakresu nauki prawa administracyjnego oraz nauki administracji, Bydgoszcz – Katowice 2009, s. 136 i nast.

52 P. Badura, Die Daseinvorsorge als Verwaltungszweck der Leistungsverwaltung und der soziale Rechtsstaat, „Die oeffentliche Verwaltung” 19 (1966), s. 625.

Rafał Stasikowski • Miejsce postępu technicznego...

139

świata, zarówno tej pozytywnej, jak i negatywnej jej strony. Reakcja państwa na negatywne oddziaływanie techniki na człowieka związana była ze stanowieniem przepisów typu policyjnego, których zadaniem była ochrona życia, zdrowia, mienia i innych dóbr policyjnych przed zagrożeniami wypływającymi z zastosowania techniki w życiu codziennym oraz w procesach gospodarczych. Rozwiązania prawne w tym zakresie miały i mają dalej charakter zazwyczaj rozproszony i odrębny dla każdej z dziedzin stosowania określonej techniki (np. transportu kolejowego, drogowego, energetyki, telekomunikacji, itd.), co jest konsekwencją odmienności zagrożeń wywo-ływanych przez odrębne rozwiązania techniczne i technologiczne.

Z kolei reakcja pozytywna państwa na technikę związana była ze wspieraniem jej rozwoju przez zespół rozwiązań instytucjonalnych i funkcjonalnych. W pierwszym przypadku chodziło o tworzenie państwowych lub publicznych ośrodków rozwoju naukowo-technicznego. W drugim o stanowienie rozmaitych rozwiązań prawnych, takich jak korzystne regulacje prawno-podatkowe zachęcają-ce do rozwoju techniki i jej zastosowania w gospodarce.

Stosowaniem, wdrażaniem i nadzorowaniem nad przestrzega-niem przepisów związanych z ochroną przed zagrożeniami, wywo-ływanymi przez używanie techniki oraz przepisów wspierających jej rozwój, zajmowała się administracja publiczna.

W omawianym okresie administracja poza klasycznymi funk-cjami policyjno-reglamentacyjnymi oraz nadzorczymi zaczyna pełnić dodatkowo dwie funkcje: administracji świadczącej oraz planistyczną, a ich pojawienie się pozostaje w związku przyczyno-wo-skutkowym związanym z rozwojem techniki i zmianami, które wywołała ona w sferze stosunków społeczno-gospodarczych oraz ustrojowych.

Okres po zakończeniu II wojny światowej to czas, w którym spo-śród trzech wyróżnionych determinant rozwoju społeczno-gospodarczego i ustrojowego kluczowe znaczenie uzyskuje technika i jej zastosowania. Stopniowo zmniejsza się rola religii. Reakcją państwa na nowe zagrożenia było przejście z wizji państwa skrajnie liberalnego w nowy wymiar ideologiczny, jakim było państwo dobrobytu, z nadzwyczajną ekspansją zadań administracyjnych i pojawieniem

140

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law się funkcji administracji świadczącej. Kluczową rolę w przemianach dziejowych wywołała zmiana ideologii liberalnej, a czynnikiem który ją spowodował był rozwój techniki.

Podobnie jak w okresach poprzednich, rozwój najnowszej techniki dokonał się w pierwszej linii w sektorze prywatnym. Państwo jednakże po II wojnie światowej znacjonalizowało sektory gospodarcze i infrastrukturalne, których działalność oparta była na zastosowaniu rozwiązań technicznych. Dotyczyło to sektorów transportu kolejowego, energetycznego, telekomunikacyjnego, wo-dociągów i kanalizacji oraz poczty. Wykonywaniem tych zadań zajmowały się głównie państwowe przedsiębiorstwa użyteczności publicznej.

Administracja współczesnego państwa regulacyjnego i jej funkcje

Kolejne przemiany związane są ze stopniową rewizją założeń ideologicznych państwa dobrobytu, a kluczem do ich zrozumienia jest pojęcie „prywatyzacji”. Początki zmian lokować należy w latach 80-tych XX wieku53. Nasilały się one z każdym kolejnym rokiem.

Okazało się wówczas, że wykonywanie szerokiej palety zadań publicznych jest bardzo trudne, tak ze względu na zdolności finansowe, jak i zdolności administracyjne państwa54. Wolumen zadań 53 Zjawisko to występowało w poszczególnych państwach o gospodarce rynkowej w różnych okresach. Było to warunkowane szeregiem zróżnicowanych czynników, takich jak np. poziom rozwoju gospodarczego, społecznego, czy też czynnikami politycznymi. W latach 80-tych XX wieku tendencja do prywatyzacji (niezależnie od przywołanych determinant) stała się powszechna wśród państw członkowskich OECD. Zob. szerzej: K. Koenig, Ch. Theobald, Liberalierung und Regulierung netzgebundener Gueter und Dienste, w: Planung – Recht – Rechtsschutz.

Festschrift fuer Willi Bluemel zum 70. Geburtstag am 6. Januar 1999, red. K. Grupp, M. Ronellenfitsch, Berlin 1999, s. 282 i nast.

54 Na temat argumentów przemawiających za prywatyzacją i niejednokrotnie niejako „naturalnej” niezdolności administracji publicznej do podołania oczeki-waniom społecznym: J. Gratschlaeger, Privatisierung von Verwaltungsaufgaben,

„Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995), s. 166 i nast.

Rafał Stasikowski • Miejsce postępu technicznego...

141

publicznych oraz intensywność zaspokajania potrzeb społecznych prowadziły do rozsadzania budżetów państw55 (albo prawdopodobieństwa ich rozsadzenia w nieodległej przyszłości) i uświadomiły podmiotom politycznym sprawującym władzę, że podtrzymywanie dotychczasowego zaangażowania administracji publicznej – wyni-kającego z dominacji ideologii nad względami ekonomii – doprowadzić może do bankructwa poszczególnych państw. Ratunkiem na te bolączki stać się miała tzw. prywatyzacja. Jej zwolennicy wiązali z nią nadzieje na: a) pozyskanie prywatnego kapitału inwestycyj-nego dla realizacji celów publicznych (i przyśpieszenia tym samym osiągnięcia pewnego standardu życia), b) podniesienia efektywności dotychczas publicznych przedsiębiorstw, zarządzanych po prywatyzacji przez podmioty prywatne kierujące się rachunkiem zysków i strat, c) zwiększenia elastyczności reakcji administracji na zachodzące przemiany społeczne, gospodarcze i techniczne, d) wycofania się administracji z pewnych sfer życia jednostki i gospodarki, w których jej interwencjonizm był zbyt daleko posunięty (zagrażając tym samym prawom i wolnościom obywatelskim)56.

Uświadomienie sobie czyhających zagrożeń stało się początkiem przekształceń funkcjonalnych (które pociągnęły również przekształ-cenia organizacyjne) administracji publicznej57. Państwo świadczące zaczęło redukować i komercjalizować zakres swoich obowiązków świadczenia względem ludności, tworząc tym samym pewną wolną przestrzeń dla aktywności prywatnej58. Zjawisko to zostało w doktrynie prawa administracyjnego ochrzczone wspomnianym poję-55 Na ten temat szerzej: A. Van der Bellen, Privatisierung oeffentlicher Unterneh-mungen und Konsolidierung oeffentlicher Haushalte, w: Das oeffentliche Haushalts-wesen in Oesterreich, 1989, s. 75.

56 J. Hengstschlaeger, Privatisierung von Verwaltungsaufgaben, „Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995), s. 166–168.

57 Zwrócić należy jednak uwagę, że procesy prywatyzacyjne nie cieszyły się powszechną akceptacją. Ich przeciwnicy podnosili kontrargumenty dla nadziei z nią związanych. Zob. J. Hengstschlaeger, Privatisierung von Verwaltungsaufgaben, w: „Privatisierung von Verwaltungsaufgaben”, s. 168–169.

58 Por. E. Grande, Entlastung des Staates durch Liberalisierung und Privatisierung? Zum Funktionswandel des Staates im Telekommunikationssektor, w: Abschied vom Staat – Rueckehr zum Staat? , Baden-Baden 1993, s. 388–389.

142

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ciem prywatyzacji, która stała się fenomenem lat 80-tych XX wieku59, choć zaczęła się pojawiać wcześniej – w latach 60-tych oraz 70-tych XX wieku60. Najogólniej rzecz ujmując prywatyzacja oznacza prze-sunięcie spraw, które dotychczas sprawowane były przez podmioty publiczne, do sfery prywatnej61 i wykonywanie jej w zróżnicowanych formach62.

59 “The 1980s will be remembered as the decade of privatization and deregula-tion”. Za: M. Giandomenico, Paradoxes of Privatization and Deregulation, “Journal of Public Policy”, Vol. 1 (1994), s. 54.

60 E. Grande, Vom produzierenden zum regulierenden Staat: Moeglichkeiten und Grenzen von Regulierung und Prvatisierung, w: Privatisierung und staatliche Regulierung. Bahn. Post und Telekommunikation, Rundfunk, Baden-Baden 1997, s. 576.

61 Por. H. Bauer, Privatisierung von Verwaltungsaufgaben, w: „Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995), Berlin – New York 1995, s. 250 oraz powołana tam literatura niemiecka. Podobnie w nauce szwajcarskiej: T. Jaag, Privatisierung von Verwaltungsaufgaben, w: „Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995) , s. 293

oraz w nauce austryjackiej: J. Hengstschlaeger, Privatisierung von Verwaltungsaufgaben, w: „Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995), s. 169 i nast.

62 W doktrynie najczęściej wskazuje się na podstawowe typy prywatyzacji: a) prywatyzacja organizacyjna nie oznacza wyzbycia się danego zadania publicznego przez podmiot administracyjny, a sprowadza się jedynie do posłużenia się do jego wykonania formą prawa prywatnego w postaci spółki prawa handlowego (spółki z ograniczoną odpowiedzialnością lub spółki akcyjnej); b) w przypadku prywatyzacji majątkowej następuje przeniesienie majątku państwowego lub ko-munalnego (nieruchomości, zakładów przemysłowych i innych) na podmiot prywatny; c) prywatyzacja materialna wiąże się z rzeczywistym przejściem danego zadania publicznego do sektora prywatnego. W jej wyniku podmioty administracyjne przestają wykonywać dane zadanie publiczne, a rolę tę zaczynają pełnić podmioty prywatne, produkując określone dobra lub świadcząc usługi na rzecz ludności. Państwo zostaje odciążone od ich wykonywania, a tym samym zmniej-szeniu ulega volumen zadań administracyjnych; d) prywatyzacja finansowa zwykle kojarzona jest z budową dróg (komunalnych, krajowych), choć nie tylko.

Umożliwia ona przeniesienie budowy, utrzymania, uruchomienia i finansowania określonych inwestycji na podmioty prywatne, przy jednoczesnym pozostawie-niu organom administracyjnym kompetencji w zakresie ustalania wysokości opłat za korzystanie z poszczególnych urządzeń. Służy ona więc pozyskaniu kapitału oraz know how dla realizacji zadań publicznych; e) w przypadku prywatyzacji funkcjonalnej (zwanej również prywatyzacją częściową) podmiot publiczny jest właściwy do realizacji danego zadania publicznego, jak i pozostaje odpowiedzialny za nie. Rzeczywistym jego wykonaniem (np. wytworzeniem pewnych usług) zajmuje się jednak podmiot prywatny, który traktowany jest jak pomoc-

Rafał Stasikowski • Miejsce postępu technicznego...

143

Postępujące procesy prywatyzacyjne zapoczątkowały moderniza-cję państw oraz ich administracji. Dzięki nim nastąpiło odciążenie państwa od zaangażowania w roli podmiotu świadczącego, co nie oznaczało jednak uwolnienia się państwa od szeregu obowiązków względem obywateli. Dla ich wykonania państwo oraz działająca w jego imieniu administracja publiczna zaczęła podejmować szereg różnorakich nowych działań, przyjmujących postać zazwyczaj tradycyjnych form działania, połączonych z sobą jednak wspólnym celem. Państwo świadczące stopniowo przeobraziło się w państwo regulujące63, państwo sterujące64, w państwo gwarantujące65. Tym samym zmianie uległa jego odpowiedzialność, która z odpowiedzialności za wykonanie świadczenia, przeszła w odpowiedzialność gwa-nik administracji. Szerzej na ten temat: H. Rehm, Modelle zur Finanzierung kom-munaler Investitionen durch Private, w: Privatisierung oeffentlicher Aufgaben, red.

J. Ipsen, 1994, s. 93 i nast.; F. Schoch w: Privatisierung von Verwaltungsaufgaben, DVBl 1994, s. 962 i nast.; G.F. Schuppert, Vom produzierenden zum gewaehrleistenden Staat: Privatisierung als Veraenderung staatlicher Handlungsformen, w: Privatisierung und staatliche Regulierung. Bahn. Post und Telekommunikation, Rundfunk,

red. K. Koenig, A. Benz, Baden-Baden 1997, s. 542 i nast. G.F. Schuppert wskazuje również, iż w ostatnim czasie w doktrynie wyodrębniony został kolejny rodzaj prywatyzacji nazwany prywatyzacją procesową.

63 Sformułowanie „państwa regulacyjnego” jest stosowane powszechnie w naukach zachodnioeuropejskich, w tym przede wszystkim w naukach niemiecko-języcznych, nauce włoskiej oraz angielskiej, jak i w nauce amerykańskiej. Zob.

m.in. G. Majone, A. La Spina, La Stato Regolatore, „Rivista Trimestale di Scienza dell’ Amministrazione” 3 (1991), s. 3–62; B. Hogwood, Developments in Regulatory Agencies in Britain, w: „International Review of Administrative Sciences”, 56

(1990), s. 595 i nast.; G.F. Schuppert, Vom produzierenden zum gewaehrleistenden Staat: Privatisierung als Veraenderung staatlicher Handlungsformen, w: Privatisierung und staatliche Regulierung. Bahn. Post und Telekommunikation, Rundfunk,

red. K. Koenig, A. Benz, Baden-Baden 1997, s. 539 i nast.; E. Grande, Entlastung des Staates durch Liberalisierung und Privatisierung? Zum Funktionswandel des Staates im Telekommunikationssektor, w: Abschied vom Staat – Rueckehr zum Staat? , red.

V. Ruediger, Neubiberg 1998, s. 388–389; H. Seidman, R. Gilmour, Politics, Position and Power. From the Positive to the Regulatory State, Nowy Jork 1986.

64 Rdzeniem, sercem państwa sterującego jest regulacja. Pojęcie państwa sterującego w nauce niemieckiej zadomowiło się dzięki znaczącemu referatowi Fran-za-Xavera Kaufmanna, Diskurse ueber Staatsaufgaben, w: Staatsaufgaben, red.

D. Grimm, Baden-Baden 1994.

65 Sformułowanie państwa gwarantującego nie jest zbyt szczęśliwe, gdyż czasami może okazać się mylące. Mimo to zostało ono powszechnie przyjęte w litera-turze niemieckojęzycznej.

144

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law rancyjną za wykonanie świadczenia przez sektor prywatny. Administracji państwa przypisana została nowa funkcja zwana regulacyjną, która nie ograniczała się wyłącznie do specyficznego nadzoru nad sektorami infrastrukturalnymi (tj. sektorach transportu kolejowego, energii, telekomunikacji i poczty), lecz do wszystkich sfer, w których doszło do zjawisk prywatyzacji, a zatem także do innych sfer życia społecznego, w tym głównie oświaty, szkolnictwa wyższego, służby zdrowia, opieki społecznej, mediów elektronicznych, kultury, czy tzw. gospodarki komunalnej. Wykonywanie funkcji regulacyjnej wiąże się z podejmowaniem działań nakierowanych na realizację dobra wspólnego przez zapewnienie ciągłości i powszechności, jak również przewidzianej przez prawo jakości (standardów) określonych przepisami prawa usług, świadczonych na rzecz ludności przez sektor prywatny wykonujący sprywatyzowane zadania publiczne (zwykle z zakresu dotychczasowej administracji świadczącej)66.

Oznacza to, że współczesna administracja publiczna zachowując dotychczasowe klasyczne funkcje policyjno-reglamentacyjne, nadzorcze, administracji świadczącej, wykonuje także funkcję regulacyjną wobec tych sfer życia społeczno-gospodarczego, w których doszło do prywatyzacji dotychczasowych zadań państwowych i realizacji świadczeń publicznych przez podmioty z sektora prywatnego lub tzw. trzeciego sektora.

Pomijam, w odniesieniu do najnowszych zdobyczy techniki, nawet przykładową wymianę tych osiągnięć, gdyż wiedza w tym zakresie jest powszechna. Współcześnie rola techniki i jej różnych zastosowań w kreowaniu życia społeczno-gospodarczego, kształtu życia jednostki oraz wywieraniu wpływu na porządki prawno-ustrojowe nie ulega wątpliwości. Technika zmieniła sposób postrzegania podstawowych kategorii obiektywnych takich jak przestrzeń i czas, czyniąc każde miejsce na świecie osiągalne dla każdego człowieka w dowolnym momencie. Internet zrewolucjonizował komunikację i gospodarkę opartą o wymianę informacji, stosunki międzyludz-kie oraz ogólnospołeczne. Oddziałuje w coraz szerszym zakresie 66 R. Stasikowski, Funkcja regulacyjna administracji publicznej, Bydgoszcz – Katowice 2009, s. 175–176.

Rafał Stasikowski • Miejsce postępu technicznego...

145

na procesy ustrojowe (np. jako narzędzie agitacji wyborczej, sposób głosowania w wyborach, komunikacji jednostki z organem administracyjnym w różnych procesach i postępowaniach, itd.).

Sztuczna inteligencja i jej wpływ

na współczesną administrację publiczną

Aktualnie stajemy na progu, najprawdopodobniej kolejnego skoku w rozwoju ludzkości i przemian wszystkich sfer życia człowieka, przemian społecznych, gospodarczych, a być może także weryfikacji założeń ustrojowych. Oczekiwany postęp wzbudza wiele kontro-wersji i obaw.

Sztuczna inteligencja (dalej AI) jest traktowana jako zdolność systemu do prawidłowego interpretowania danych pochodzących z zewnętrznych źródeł, samodzielnej nauki na ich podstawie oraz wykorzystywania tej wiedzy, aby wykonywać określone zadania i osiągać cele poprzez elastyczne dostosowanie. Chodzi zatem o maszyny i programy komputerowe zdolne do realizacji wybranych funkcji umysłu i ludzkich zmysłów, zdolnych do podejmowania decyzji w warunkach braku wszystkich danych, analizy i syntezy języków naturalnych, prowadzenia logiczno-racjonalnych rozumowań, dowodzenia twierdzeń. Mówimy zatem o pewnej formie świadomości funkcjonującej poza umysłem ludzkim i światem ożywionych tworów przyrody, a zatem świadomości i rozumności maszyn i ich oprogramowania. W związku z tym kategorię sztucznej inteligencji odnosić należy do produktów lub usług odpowiadających powyższym właściwościom.

Istotne jest jednak to, iż wydajność w zakresie gromadzenia, przetwarzania wiedzy i szybkości dokonywania tych czynności będą wyprzedzać predyspozycje człowieka. Już dziś na początku rozwoju AI możliwości te są na poziomie nieosiągalnym dla nawet najzdol-niejszych jednostek ludzkich. Pojawiające się obawy nie są zatem bezpodstawne, gdyż człowiek może zyskać konkurencję w zakresie tych zdolności, które przesądziły o jego wcześniejszym ewolucyj-nym sukcesie w świecie zwierząt. Za sukcesem tym stały bowiem in-

146

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law teligencja i zdolność do myślenia, co pozwoliło stworzyć język, który wielokrotnie przyśpieszył procesy uczenia, a tym samym rozwoju.

Nie można jednak założyć, aby te obawy były wystarczające do zaniechania dalszego rozwoju i odrzucenia AI. Należy raczej zastanowić się nad działaniami, które można przedsięwziąć, aby wprowadzenie tych rozwiązań technicznych odbywało się według z góry ustalonych przez człowieka zasad.

Rolą prawodawcy będzie stworzenie przepisów, które będą określać:

– zakres i podstawy pozaumownej odpowiedzialności cywilnej i administracyjnej producentów lub podmiotów wprowadza-jących na rynek produkty lub usługi, za szkody wyrządzone przez AI;

– właściwości techniczne AI zapewniające bezpieczeństwo i kontrolę człowieka nad ich działalnością;

– ich zdolności do współpracy z innymi maszynami i AI;

– strukturę administracyjną zajmującą się certyfikacją urządzeń lub usług AI, nadzorem nad podmiotami produkującymi rozwiązania AI względnie certyfikującymi je.

Wydaje się, że regulacje dotyczące AI będą mieć charakter sekto-rowy, podobnie jak i nadzór administracji nad AI w poszczególnych sektorach. Uchwalone przez Parlament Europejski Rozporządzenie, tzw. AI Act wydaje się, że już wyznacza 8 przyszłych sektorów, określając je „obszarami wrażliwymi”.

Należy powątpiewać, aby administracja publiczna była zdolna do stałego i bieżącego nadzorowania nad funkcjonowaniem sztucznej inteligencji i monitorowania jej postępów w samorozwoju i uzyski-wania samoświadomości. Można przypuszczać, że jedynym rozwiązaniem zdolnym do udźwignięcia tego ciężaru byłaby inna sztuczna inteligencja pozostająca na usługach administracji. Kwestie czy pozwoliłaby ona sprawować nadzór człowieka nad sobą, pozostawić należy otwartą. Założyć należy raczej, iż administracja będzie zdolna badać wyłącznie incydenty związane z posługiwaniem się sztuczną inteligencją, wyjaśniać ich przyczyny oraz wydawać decyzje wyzna-czające odpowiedzialność za nie, nakładać kary administracyjne, zakazywać posługiwania się określonym rozwiązaniem, itp.

Rafał Stasikowski • Miejsce postępu technicznego...

147

Ideologia współczesnych państw prawa nie przystaje do zjawiska jakim wkrótce będzie sztuczna inteligencja. Administracja działa na podstawie ustaw. Stanowi to współcześnie ograniczenie w ewentual-nej swobodnej, aczkolwiek pożądanej reakcji na określone działania ze strony sztucznej inteligencji. Ramami ustaw nie jest zaś związana sztuczna inteligencja w swoim rozwoju oraz w swoich decyzjach.

Zmiany ideologii państwa prawa nie należy się raczej spodziewać. Stąd też kluczowe będzie zbudowanie podstaw prawnych jej aktywności i wytyczenie jej zadań i funkcji w zakresie regulacji zjawiska AI. Rozum i doświadczenia historyczne dotyczące innych już wdrożonych rozwiązań techniczno-technologicznych wskazują, iż rola administracji odpowiadać będzie w przypadku AI cechom funkcji policyjno-reglamentacyjnej, nadzorczej i regulacyjnej.

Dążyć ona będzie do rozwijania tej techniki i jej zastosowania oraz zapewnienia kontroli nad tym, aby maszyny nie uzyskały samoświadomości pozwalającej skierować swoje możliwości przeciwko człowiekowi. Ocena skutecznej realizacji tego zadania przez administrację przy uwzględnieniu historii skuteczności działalności administracji w zapobieganiu dotychczasowym negatywnym oddziaływaniom techniki na życie człowieka oraz bieg historii wy-pada negatywnie. Administracja w krótkiej perspektywie czasowej nie spełni żadnej pozytywnej roli w tym zakresie. Jest ona bowiem strukturą powolną w działaniu, związaną zasadą legalizmu, zdolną zasadniczo przywrócić stosunki społeczne do znanego wcześniej stanu równowagi, niezdolną zaś do zapanowania nad zjawiskiem nowym, nieznanym jej, podlegającym szybkim przemianom. Dopiero zakorzenienie się określonego zjawiska w życiu społecznym i gospodarczym, zgłębienie jego istoty pozwala na przygotowanie odpowiednich rozwiązań prawnych, uzyskanie odpowiedniej wiedzy na jego temat przez administrację i spełnianie przez nią spo-łecznie oczekiwanej roli.

Nie można wykluczyć, a nawet powinno założyć się, że sztuczna inteligencja będzie dokonywała samodzielnych zmian w swojej strukturze i istocie działania, próbując być może „wymknąć” się spod kontroli człowiek, jeśli procesy rozwoju jej samoświadomości osiągną określony poziom. Rokowania, bazujące na doświadcze-

148

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law niach z dotychczasowego rozwoju techniki, co do możliwości od-grywania istotnej roli przez administrację w rozwoju technologii AI i zapanowania nad nią w pierwszym okresie jej funkcjonowania są negatywne.

Sceptycyzm co do przyszłości wynika także z braku kompaty-bilności świata norm prawnych ze światem algorytmów, z których zbudowana jest i według zasad których działa sztuczna inteligencja.

AI została stworzona w oparciu o system zdań posiadających wartość logiczną prawdy lub fałszu, zakorzenionych wyłącznie w świecie bytu. Działanie (i ewentualny samorozwój) AI następuje w oparciu o schemat rozwiązywania problemu, w którym sposób przepro-wadzenia poszczególnych czynności opisany jest za pomocą zdań prawdziwych lub fałszywych. Z kolei normy prawne nie są zdaniami w sensie logicznym, posiadają przymiot obowiązywania (w stanach mentalnych człowieka oraz w życiu społecznym), stanowią element świata powinności, który ze swej istoty jest niemożliwy do wyraże-nia w postaci skończonego algorytmu. Pomocne w tym zakresie nie może być również przekształcenie norm prawnych w zdania o nor-mach, gdyż one nie będą w stanie wyrazić pełni generalności i abs-trakcyjności norm prawnych. Prowadzi to do sytuacji, w której AI działać będzie poza światem norm prawnych, moralnych i innych, poza światem uczuć i emocji ludzkich, a zatem wymknie się spod zakresu fundamentów ideologicznych współczesnych państw i po-rządków prawnych, tworząc nową sferę zagrażającą dotychczaso-wemu światu zbudowanemu według dualizmu świata bytu i powinności, w której powinność determinuje czyny człowieka.

Bibliografia

Badura P., Die Daseinvorsorge als Verwaltungszweck der Leistungsverwaltung und der soziale Rechtsstaat, „Die oeffentliche Verwaltung” 19 (1966).

Borkowski A., Chełmoński A., Guziński M., Kiczka K., Kieres L., Kocowski T., Administracyjne prawo gospodarcze, Wrocław 2005.

Cameron R., Neal L., Historia gospodarcza świata, Warszawa 2004.

Fleiner F., Institutionen des Deutschen Verwaltungsrechts, Tuebingen 1928.

Rafał Stasikowski • Miejsce postępu technicznego...

149

Hengstschlaeger J., Privatisierung von Verwaltungsaufgaben, „Privatisierung von Verwaltungsaufgaben, Veroeffentlichungen der Vereinigung der Deutschen Staatsrechtslehrer” 54 (1995).

Jellinek W., Verwaltungsrecht, Berlin 1928.

Koenig K., A. Benz, Privatisierung und staatliche Regulierung. Bahn. Post und Telekommunikation, Rundfunk, Baden-Baden 1997.

Kuta T., Funkcje współczesnej administracji i sposoby ich realizacji, Wrocław 1992.

Malec J., Malec D., Historia administracji i myśli administracyjnej, Kraków 2003.

Maurer H., Allgemeines Verwaltungsrecht, Muenchen 2006.

Mayer O., Deutsches Verwaltungsrecht, reprint 3. wyd. z 1924 r., Berlin 2004.

Merk W., Deutsches Verwaltungsrech, Berlin 1962.

Ochendowski E., Prawo administracyjne. Część ogólna, Toruń 2001.

Schliesky U., Oeffentliches Wirtschaftsrecht. Deutsche und europaeische Grundlagen, Heidelberg 2003.

Schmidt-Assmann E., Das allgemeine Verwaltungsrecht als Ordnungsidee.

Grundlagen und Aufgaben der verwaltungsrechtlichen Systembildung, Heidelberg 2006.

Strzyczkowski K., Prawo gospodarcze publiczne, Warszawa 2007, s. 145–146.

Stasikowski R., Funkcja regulacyjna administracji publicznej, Bydgoszcz –

– Katowice 2009.

Zimmermann M., Pojęcie administracji publicznej a swobodne uznanie, Po-znań 1959.

SZTUCZNA INTELIGENCJA I PRAWO

ARTIFICIAL INTELLIGENCE AND LAW

Warszawa 2024

Redakcja: Fabrizio Giulimondi, Paweł Lewandowski Gennaro Terracciano*

L’esercizio della funzione amministrativa

nell’era dell’Intelligenza Artificiale

predittiva e generativa: principi della fiducia e del risultato e prospettive giustiziali1

Abstract

L’articolo dell’autore si concentra sull’esercizio della funzione amministrativa nell’era dell’Intelligenza Artificiale (IA) Predittiva e Generativa. Inizia discutendo le implicazioni etiche e legali dell’IA, evidenziando la necessità di bilanciare i suoi potenziali benefici con le preoccupazioni riguardanti la sua applicazione nell’amministrazione pubblica. L’autore sostiene che l’IA sta diventando sempre più integrata nel processo decisionale amministrativo, spingendo verso un’interazione più stretta tra IA e esseri umani.

Tuttavia, sottolinea la necessità di stabilire principi e regole per garantire la protezione delle libertà individuali e il perseguimento del bene pubblico.

L’autore esamina anche il ruolo della giustizia amministrativa nel contesto dell’IA, evidenziando la necessità di un controllo giudiziario più appro-fondito sui risultati delle decisioni amministrative automatizzate. Infine, propone l’adozione dei principi di “fiducia” e “risultato” come guida per la regolamentazione dell’azione amministrativa algoritmica, sottolineando

* Prof. Gennaro Terracciano, Università degli Studi di Roma “Foro Italico”, Italia, e-mail: gterracciano@yahoo.it; https://orcid.org/0000-0002-3207-5707.

1 Questo articolo è stato pubblicato in inglese: “The exercise of administrative function in the era of Predictive and Generative Artificial Intelligence”.

152

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law l’importanza di garantire la trasparenza e l’efficacia delle decisioni, nonché la conformità legale.

Parole chiave

Intelligenza Artificiale Amministrativa, giustizia amministrativa, amministrazione algoritmica, istituzioni pubbliche, automazione dei compiti.

* * *

Abstract

The essay by the author focuses on the exercise of administrative function in the era of Predictive and Generative Artificial Intelligence (AI). It begins by discussing the ethical and legal implications of AI, highlighting the need to balance its potential benefits with concerns about its application in public administration. The author argues that AI is becoming increas-ingly integrated into the administrative decision-making process, pushing towards closer interaction between AI and humans. However, they emphasize the need to establish principles and rules to ensure the protection of individual freedoms and the pursuit of the public good. The author also examines the role of administrative justice in the context of AI, highlighting the need for more thorough judicial oversight of the outcomes of automat-ed administrative decisions. Finally, they propose adopting the principles of “trust” and “result” as a guide for regulating algorithmic administrative action, emphasizing the importance of ensuring transparency and effectiveness of decisions, as well as legal compliance.

Keywords

Administrative Artificial Intelligence, administrative justice, algorithmic administrative, public institutions, automation of tasks.

L’intelligenza artificiale e la funzione amministrativa Come per l’era nucleare, anche quella della c.d. Intelligenza Artificiale (IA), a seguito della ormai piena maturazione della rivoluzione informatica o digitale, evoca paure, dubbi etici, necessità di regolamentazione, rischi quanto agli effetti sulla vita stessa delle persone, ma allo stesso tempo promette sviluppi e progressi positivi

Gennaro Terracciano • L’esercizio della funzione amministrativa... 153

inimmaginabili in campo scientifico, in particolare medicosanita-rio, industriale, economico, sociale. Ogni progresso tecnologico, in fondo, rappresenta un nuovo “potere” in sé distruttivo o costruttivo, in ragione del suo utilizzo e della capacità delle società umane orga-nizzate di dominare quel potere. Come efficacemente è stato notato

“Si tratta di evocare non una catastrofe certa, ma un pericolo in atto, per giunta facilitato dall’ingenuità dotta e incredibile di chi non ne vede l’avanzare. La risposta dei dotti è nota: anche in tempi passa-ti sono stati evocati pericoli per l’introduzione delle macchine, ma queste paure si sono dimostrate regressive e fallaci; l’importante è capire che la macchina sarà pur sempre sottoposta al controllo dell’uomo, anzi trasformeràil lavoro pericoloso, sporco e servile in lavoro di intelligenza e programmazione, mentre libererànuova creativitàumana. Una tale replica, pur meritevole di attenzione, non sembra percepire il problema di cui si sta oggi parlando. A prescin-dere dalla più generale osservazione per cui il fatto che in passato si sia contrastato efficacemente un pericolo non significa che il pericolo attuale sia ancora quello stesso, non va 2 assolutamente trascu-rato che la situazione in cui si trova il genere umano oggi ha conno-tati di assoluta novità, per la quale occorrono adeguati strumenti di elaborazione critica”2 .

Anche solo due riflessioni iniziali possono essere utili a comprendere il suddetto richiamo: 1) gli ordinamenti, anche costituzionali, degli Stati e la disciplina normativa in generale in materia di digitalizzazione e di IA sono ancora decisamente incompleti e comunque del tutto insufficienti3; 2) lo sviluppo tecnologico e le applicazioni possibili dell’IA sono prevalentemente nella disponibilità delle “GAFAM” o delle “BATX”, e il relativo “potere” appare, quindi, al momento appartenere a multinazionali private. Naturalmente, non mancano dubbi che riguardano in profondità l’animo umano e spingono a riflessioni etico-filosofiche4, finendo per domandarsi 2 G. Limone, L’algoritmo e il mondo della vita. Nuovi appunti sul fondamentali-smo macchinico nell’era contemporanea, “Persona. Periodico internazionale di studi e dibattito” n. 1–2, Artetetra, Capua 2017, p. 1–60.

3 J.B. Auby, Conclusioni, L’amministrazione digitale, Napoli 2023, p. 287.

4 G. Chimirri, IA Intelligenza Artificiale – Etica delle macchine pensanti, “Aste-

154

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law se la “macchina” esiste e se il pensiero astratto è esclusivo dell’intelligenza umana. Del resto, la tendenza ad antropomorfizzare le macchine pensanti (caratteristica soprattutto della IA cd. forte)5

porta poi a immaginare un triste e spettrale futuro di sostituzione del genere umano o quantomeno di prevaricazione della macchina autonoma rispetto alla persona umana6.

Allo stesso tempo, l’IA cd. debole (ammesso che tale definizione sia ancora valida) viene però considerata una rivoluzione tecnologica positiva, purché ben governata, nella costante ricerca di un equilibrio tra “risultato computazionale e supervisione umana”7.

In fondo, anche la protezione delle libertà “non incontra problemi sostanzialmente nuovi dinanzi agli algoritmi e alle decisioni delle macchine, perché in realtà è tuttavia l’uomo il protagonista dell’intero fenomeno”8, sebbene poi quando dette tecnoscienze riguardino anche le modalità attraverso le quali si esercita il potere ammini-rios” n. 64, 2021, con indicazioni bibliografiche ricchissime, sia riguardanti opere di informatica e del mondo digitale, sia saggi di filosofia della tecnica, della scienza e della cultura, dell’epistemologia e della sociologia.

5 Si è già avuto modo di evidenziare che “Al fine di affrontare il problema a livello sistemico, è necessario, nuovamente, evidenziare la summa divisio tra le procedure automatizzate in cui l’algoritmo è ‘servente’ (tradizionale), ovvero è in grado di siste-matizzare, raccogliere e rielaborare i dati al solo fine di agevolare la decisione umana, e gli algoritmi di intelligenza artificiale ‘forte’, che sono in grado di auto-apprendere e di rappresentare autonomamente il processo decisionale, sostituendo, con funzione abduttiva, deduttiva e predittiva, la determinazione umana. Gli algoritmi “forti”, come detto, presentano un alto rischio di assenza di dominabilità, nel momento in cui il processo di continuo auto-apprendimento e di costante rielaborazione dei dati originariamente immessi nel sistema, determina il c.d. effetto black-box, generando una serie infinita di inferenze automatiche, sempre meno intellegibili, accessibili e sindacabili”, G. Terracciano, I.I.A. (intelligenza artificiale amministrativa) e sindacato giurisdizionale, “Amministrativamente” fasc. 2 (anteprima), 2022, p. 1–10; si veda anche, G. Terracciano, Automazione e processo amministrativo: una convivenza difficile? , “Amministrativamente”, fasc. 1, 2022, p. 25–32.

6 Interessante l’analisi specifica di V. Tenore, L’intelligenza artificiale può sostituire un giudice? , “EA Anicia” 2023, condotta in campo giuridico-processuale, che evidenzia l’utilità dell’IA (cd. debole) quale strumento di mero ausilio, però, della persona.

7 Ciò anche in campo pubblicistico e nell’esercizio di funzioni pubbliche, come evidenzia G. Gallone, Riserva di umanità e funzioni amministrative, “Cedam”

2023, p. 165 e ss.

8 Così, V. Caputi Jambrenghi, Libertà e autorità, II, Editoriale scientifica, 2023, p. 253 e ss.

Gennaro Terracciano • L’esercizio della funzione amministrativa... 155

strativo, allora occorre chiedersi come possa assicurarsi il rispetto di valori e regole che tutelano o comunque sono strumentali alle libertà costituzionalmente protette. Tale interrogativo è ancora più rilevante nelle ipotesi di esercizio del potere discrezionale amministrativo attraverso inconoscibili meccanismi volitivi di un sistema informatico che “impara” da solo attraverso l’acquisizione di “big data” non controllati o non controllabili, e che tende a sostituirsi alla decisione umana.

Del resto, la pervasività delle cc.dd. tecnoscienze e la velocità con la quale l’IA si evolve, con applicazioni inimmaginabili fino a poco tempo fa, finiscono per condizionare in modo per lo più incontrollato molti aspetti della vita dell’uomo: più crescono la specializza-zione e la complessità delle scienze, più cresce l’urgente e comune domanda di valori e di senso9.

Il tema della dominabilità delle scienze, ed in particolare in quelle che hanno applicazioni concrete pressoché immediate, come quelle riguardanti la digitalizzazione o la c.d. intelligenza artificiale, diviene fondamentale, in ragione della trappola della semplicità di utilizzo a fronte della incomprensibilità delle regole di funziona-mento (in altre parole, degli algoritmi). La ricerca di regole e profili valoriali non riguarda solo e tanto la tematica dell’atto amministrativo digitale o digitalizzato, che comunque, allo stato, pare essere frutto di un procedimento amministrativo necessariamente rispet-toso delle norme a presidio della correttezza formale e sostanziale dell’atto stesso10.

Allo stesso modo, detta ricerca non pare riguardare in modo preminente parametri e regole di algoritmi c.d. tradizionali (IA c.d.

debole), che sono frutto di processi matematici che consentono una semplice verifica di correttezza e sono ‘dominabili’, nella misura in cui sia possibile verificare la congruità della traduzione in linguag-9 G. Limone, Dare dignità alla speranza e speranza alla dignità. L’essere umano concreto al centro delle scienze e della vita: un crocevia di paradossi teorici ed etici, Prolusione all’inaugurazione dell’anno accademico 2006/2007 della Seconda Università degli Studi di Napoli.

10 S. De Felice, Intelligenza artificiale e “Invalidità e giustiziabilità dinanzi al giudice amministrativo” , www.giustizia-amministrativa.it, luglio 2021 [accesso: 09.04.2024].

156

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law gio matematico delle regole giuridiche11.

Essi divengono, invece, determinanti e essenziali quanto alla possibilità di “dominare” gli algoritmi scaturenti dall’applicazione di sistemi neurali o di intelligenza artificiale con autoapprendimento (cioè, con dati di input non controllati da un responsabile umano), così da consentire una sufficiente comprensibilità e trasparenza (e non mera conoscibilità) nella fase programmatoria, e, poi, una possibile sindacabilità in fase di esercizio del potere e di valutazione delle conseguenze, anche sul piano del merito (avuto riguardo non solo agli atti vincolati, ma anche a quelli a contenuto discrezionale, magari conseguenza di valutazioni predittive). Del resto, la decisione amministrativa, umana o generata da IA, deve comunque essere giustificata, e il controllo sulla strumentalità dell’esercizio del potere all’interesse pubblico non può che appartenere al Giudice (amministrativo, in Italia), il quale deve essere dotato di un potere di sindacato rafforzato, proprio in ragione della maggiore complessità tecnologica, che rende difficilmente conoscibili o impenetrabili i meccanismi volitivi12.

Ciò vale a maggior ragione quando è proprio il potere giurisdizionale che si dota di infrastrutture tecnologiche e utilizzi l’intelligenza artificiale in funzione predittiva dell’esito delle decisioni13, con il rischio di una giustizia virtuale, automatica e a-valoriale, re-golata da algoritmi che agiscono per mera riproduzione acritica dei precedenti14.

Ciò che appare evidente dalle prime considerazioni introduttive è la necessità di fissare principi e regole generali a protezione delle libertà delle persone attraverso la costruzione di un comples-11 M. Corradino, Intelligenza artificiale e pubblica amministrazione: sfide concrete e prospettive future, www.giustizia-amministrativa.it, settembre 2021 [accesso: 09.04.2024].

12 Si veda, Cons. Stato, VI, n. 881 del 2020, nel commento di A. Valsecchi, Algoritmo, discrezionalità amministrativa e discrezionalità del giudice (Nota a Cons.

Stato, sez. VI, sent. del 4 febbraio 2020, n. 881), iusinitinere, 14/09/2020.

13 G. Terracciano, L’applicazione in campo giuridico delle reti artificiali. Il programma “Giurinet”, T.A.R. 1998, II, 497.

14 Oltre a V. Tenore, op. cit.; C. Napoli, Algoritmi, intelligenza artificiale e formazione della volontà pubblica: la decisione amministrativa e quella giudiziaria, AIC 3

(2020).

Gennaro Terracciano • L’esercizio della funzione amministrativa... 157

so e delicato sistema di tutele valevoli a livello internazionale, che, tuttavia, non rappresenti un freno irrazionale al progresso tecnologico. Ma, insieme, si rendono necessari sistemi regolatori nazionali, che, sulla base dei diversi ordinamenti, fissino principi e criteri specifici di utilizzazione dell’IA per garantirne la piena conformità, formale e sostanziale, all’interesse pubblico, sia quanto all’esercizio del potere pubblico, sia quanto all’azione dei privati. Tra questi, si ritengono di particolare rilevanza i principi della “fiducia” e del “risultato”, secondo una declinazione che si intende esplorare15.

La I.A.A. (Intelligenza Artificiale Amministrativa) Si è dell’opinione che la distinzione tra intelligenza artificiale ‘debole’, quale ausilio alla decisione, e quella ‘forte’, quale decisione vera e propria, in un’ottica di rigida contrapposizione sia da considerar-si superata, così come quella tra IA predittiva e IA generativa, che tende a evidenziare una distinzione sul piano del risultato o dell’utilizzazione. In realtà, i sistemi basati sull’intelligenza artificiale, soprattutto funzionali all’esercizio delle potestà amministrative pubbliche, accompagnano l’intero processo decisorio dell’esercizio del potere pubblico.

In effetti, tutte le fasi del processo decisionale possono essere interessate e condotte attraverso moduli algoritmici, sia in ambito procedimentale, sia in ambito processuale. Ogni decisione presuppone una attività di raccolta e valutazione degli elementi fattuali e giuridici quali presupposti, e cioè di un dataset, che in ipotesi di procedimento algoritmico è rappresentato da informazioni digi-talizzate, di modo che anche il fatto risulti ‘algoritmizzato’. L’im-15 Si veda la monografia di M. Falcone, Ripensare il potere conoscitivo pubblico tra algoritmi e big data, Editoriale Scientifica, 2023, che giustamente evidenzia come la disciplina regolamentare in approvazione a livello Unionale Europeo privilegi un approccio alla minimizzazione del rischio (ineliminabile) connesso all’introduzione di sistemi gestionali fondati sull’IA, con applicazione dei principi di accuratezza, robustezza e sicurezza dei sistemi di IA, con allo stesso tempo adeguata rilevanza del principio di sorveglianza umana, in uno con la necessità di garantire un certo grado di trasparenza, ma soprattutto di corretta gestione di dataset (p. 294 e ss.).

158

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law portanza del dato di input è da tutti riconosciuto, sia in termini di quantità, sia in termini di qualità: ciò che occorre aggiungere è la necessità che la raccolta e l’immissione siano sorvegliate e in qual-che modo “certificate”, come del resto accade nei procedimenti amministrativi “analogici”. L’Intelligenza Amministrativa Artificiale deve, quindi, riguardare l’intero iter decisionale, mappando tutti i processi mediante l’elaborazione di regole di condotta, alert e in-dicatori di monitoraggio della loro attuazione, al fine di assicurare una trasparenza, accessibilità e sindacabilità algoritmica, consentendo di individuare garanzie essenziali e criteri di legalità che co-niughino un giusto grado di autonomia della macchina con il contrasto a deviazioni, vulnerabilità o errori del sistema16.

Occorre, allora, formalizzare uno statuto giuridico che riguardi la produzione e l’utilizzazione dell’intelligenza artificiale in ambito procedimentale amministrativo, che sia declinato in regole concrete sulla base di criteri aggiuntivi a quelli vigenti per il procedimento analogico, sempre in attuazione dei principi costituzionali di legalità e buon andamento: in definitiva, si vuole fare riferimento a criteri e regole di “governance algoritmica”.

Non mancano, ovviamente, già ricerche e decaloghi in tal senso diretti, ispirati ai principi costituzionali e normativi attinenti all’attività amministrativa, diretti ad evitare diseguaglianze o discriminazioni e nell’interesse ad una azione imparziale17; così come a volte si finisce per ritenere sufficiente o comunque applicabile la esistente regolamentazione riguardante il procedimento amministrativo18.

Tuttavia, l’impressione è che l’IAA non sia un semplice strumento di ausilio al responsabile decisore umano, ma abbia già in sé l’at-titudine a “fondersi” con il decisore umano, se non tendenzialmente a sostituirlo, almeno quando non vi sia discrezionalità amministrativa o spendita di potere politico-amministrativo o, ancora, quando 16 Come già detto in G. Terracciano, I.I.A. , op. cit.

17 E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, Dir.Amm. 2/2020, p. 271 e ss.; D. Ponte, G. Pernice, L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze, www.giustizia-amministrativa.it, ottobre 2021 [accesso: 09.04.2024].

18 Ibid.

Gennaro Terracciano • L’esercizio della funzione amministrativa... 159

gli interessi pubblici e privati coinvolti nell’azione non siano di particolare rilevanza. Proprio per questo pare necessario che si giunga alla formulazione di regole di buona amministrazione algoritmica, con la fissazione di disposizioni operative per l’utilizzo di modelli automatizzati con controllo o sorveglianza in fase di acquisizione dei fatti e verifica dei risultati a valle della decisione.

In altri termini, sembra che occorra una diversificata disciplina sul procedimento informatizzato con utilizzazione di I.A.A, anche con protocolli processuali che comunque diano garanzia di contrad-dittorio e non comprimano il diritto di difesa, ma soprattutto che consentano una effettiva verificabilità e sindacabilità in termini di corretto perseguimento dell’interesse pubblico. La necessità di verifica della correttezza e congruità della decisione amministrativa non riguarda solo l’algoritmo in sé, come sembra ritenere allo stato la giurisprudenza amministrativa italiana, ma deve avere come pe-rimetro di valutazione e controllo l’intero procedimento “algoritmico”, cioè il processo decisionale nel suo insieme, con attribuzione di potere sindacatorio più penetrante, anche sugli assetti conseguenti all’adozione del provvedimento o al comportamento dell’amministrazione, nel rispetto dei principi costituzionali di buon andamento e imparzialità. In definitiva, nessuno può dubitare della necessità di un giusto grado di tracciabilità e trasparenza dei processi, ma diviene fondamentale il controllo dei risultati dell’azione amministrativa, quanto alla conformità ai parametri legali ma soprattutto quanto al perseguimento “giusto” dell’interesse pubblico: controllo procedimentale e processuale, sia di legittimità, sia di merito.

Tale necessità di valutazione e controllo del risultato dell’azione amministrativa algoritmica coinvolge tanto la funzione di amministrazione attiva, tanto la funzione giurisdizionale, che indagano e operano su una gerarchia di interessi che emergono dalla fattispecie, condividendo la difficoltà di interpretare, di eseguire, di ap-plicare norme e principi spesso ad elevato contenuto di astrattezza nella concretezza della realtà fattuale19.

19 G. Terracciano, A. Colarusso, L’indizio nella decisione amministrativa (teoria e prassi dell’inferenza probatoria nell’esercizio della funzione amministrativa e del potere giurisdizionale), editoriale scientifica, Napoli 2021.

160

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law I principi di riferimento del procedimento

amministrativo algoritmico, in ragione dei rischi percepiti e dell’approccio giurisprudenziale: la fiducia e il controllo del risultato

Per comprendere la necessità di un cambio di paradigma quanto ai criteri di azione amministrativa algoritmica, può essere utile appro-fittare proprio di una applicazione, basata su algoritmo, di assisten-za virtuale (chatGPT), sostanzialmente sviluppata come modello di linguaggio che si autoalimenta (quindi senza funzioni predittive o generative), che finisce per riprodurre, in ragione della massa di dati elaborata, il pensiero prevalente diffuso in rete. Alla domanda a tuo parere quali sono i rischi dell’introduzione dell’intelligenza artificiale nell’ambito dell’attività amministrativa delle istituzioni pubbliche? ”, la risposta è stata la seguente: “L’introduzione dell’intelligenza artificiale (IA) nell’ambito dell’attività amministrativa delle istituzioni pubbliche può comportare diversi rischi. Ecco alcuni dei principali:

Bias algoritmico: Gli algoritmi di intelligenza artificiale possono riflettere i pregiudizi presenti nei dati con cui vengono addestrati. Se i dati storici riflettono discriminazioni o disuguaglianze, l’IA potrebbe perpetuare tali problemi, ampliandoli o addirittura rendendoli più difficili da individuare.

Mancanza di trasparenza: Gli algoritmi di IA possono essere estre-mamente complessi e difficili da comprendere per coloro che non sono esperti nel campo. Questo può portare a un’opacità nelle decisioni amministrative, con conseguente mancanza di responsabilità e difficoltà nel rendere conto delle azioni.

Privacy e sicurezza dei dati: L’uso dell’IA richiede grandi quantità di dati, spesso sensibili, per addestrare gli algoritmi. Ciò solleva preoccupazioni sulla privacy e sulla sicurezza dei dati, specialmente se non vengono prese misure adeguate per proteggerli dall’accesso non auto-rizzato o dall’abuso.

Disoccupazione tecnologica: L’automatizzazione delle attività amministrative tramite l’IA potrebbe portare alla riduzione della doman-

Gennaro Terracciano • L’esercizio della funzione amministrativa...

161

da di lavoro umano in alcuni settori, causando disoccupazione tecnologica e potenzialmente aumentando le disuguaglianze socioeconomiche.

Decadimento delle competenze umane: Se le decisioni amministrative vengono delegate in modo significativo all’IA, potrebbe verificarsi un decadimento delle competenze umane necessarie per valutare criti-camente le situazioni, prendere decisioni etiche complesse e risolvere problemi in modo creativo.

Manipolazione e frode: Gli algoritmi di IA potrebbero essere soggetti a manipolazioni o attacchi fraudolenti, sia interni che esterni. Questo potrebbe portare a decisioni distorte o dannose che danneggiano la fiducia nel sistema amministrativo.

Per mitigare questi rischi, è necessario adottare misure come la trasparenza nell’uso dell’IA, la valutazione continua degli algoritmi per individuare e correggere eventuali bias, la protezione rigorosa dei dati, la formazione continua per gli operatori umani e la creazio-ne di meccanismi di responsabilità e supervisione adeguati. Inoltre, è essenziale coinvolgere stakeholder diversificati, compresi esperti di etica, diritto e società civile, nel processo decisionale sull’implementazione dell’IA nelle istituzioni pubbliche.

Il sistema, a domanda, ha poi aggiunto: “Certamente, l’introduzione dell’intelligenza artificiale (IA) nell’ambito dell’attività amministrativa delle istituzioni pubbliche può offrire una serie di vantaggi:

Efficienza operativa: L’IA può automatizzare processi ripetitivi e no-iosi, consentendo alle istituzioni pubbliche di gestire le loro attività amministrative in modo più efficiente e veloce. Ciò potrebbe ridurre i tempi di elaborazione dei documenti, migliorare la produttività del personale e ottimizzare l’allocazione delle risorse.

Miglioramento delle decisioni: Gli algoritmi di IA possono analiz-zare grandi quantità di dati e identificare modelli e tendenze altrimenti difficili da individuare. Questo può supportare le istituzioni pubbliche nel prendere decisioni più informate e basate su evidenze, sia nell’ambito delle politiche pubbliche che nella gestione interna.

Riduzione degli errori umani: L’IA può contribuire a ridurre gli errori umani nelle attività amministrative, specialmente in compiti che richiedono precisione e coerenza. Ciò potrebbe migliorare l’accuratezza

162

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law dei processi decisionali e ridurre il rischio di errori che potrebbero avere conseguenze negative.

Miglior servizio clienti: L’implementazione di sistemi di intelligenza artificiale può migliorare l’esperienza dei cittadini e degli utenti dei servizi pubblici. Chatbot o assistenti virtuali basati sull’IA possono fornire risposte immediate alle domande più comuni, riducendo i tempi di atte-sa e migliorando l’accessibilità ai servizi pubblici.

Risparmio di costi: Se implementata correttamente, l’IA può portare a significativi risparmi di costi per le istituzioni pubbliche. Automatiz-zando processi e riducendo la dipendenza dal lavoro umano, le istituzioni possono ridurre i costi operativi e allocare risorse in modo più efficiente.

Innovazione: L’IA offre nuove opportunità per l’innovazione nelle pratiche amministrative e nei servizi pubblici. Attraverso l’analisi dei dati e lo sviluppo di soluzioni personalizzate, le istituzioni possono migliorare continuamente i propri processi e offrire servizi più efficaci e su misura per le esigenze dei cittadini”.

A fronte di un approccio generalista (il pensiero comune), che se-gnala rischi e vantaggi che possono essere conseguenti a qualun-que introduzione di innovazioni tecnologiche, specie quelle infor-matiche, e che riproducono paure ed esaltazioni proprie dell’essere umano rispetto all’ignoto, occorre invece essere pronti a gestire una diversa prospettiva di sviluppo, che vede la IA come possibile protagonista della formazione della volontà amministrativa, in funzione predittiva e generativa insieme, opportunamente combinate.

Questa diversa prospettiva richiede un differente approccio, do-vendosi prendere atto che i criteri di azione che regolano l’agire pubblico non appaiono sufficienti per garantire che l’esercizio del potere pubblico, in era di IA, sia effettivamente diretto alla massi-mizzazione dell’interesse pubblico. Ciò vale anche per l’esercizio del potere giurisdizionale, che non può rimanere relegato nel paradigma tradizionale che non consente un effettivo sindacato quanto alle scelte di merito della P.A.. Nel procedimento algoritmico, e quindi a seguito di utilizzazione della I.A.A., non sarà possibile discerne-re l’esercizio di discrezionalità tecnica da quello di discrezionalità amministrativa, a maggior ragione nelle ipotesi di utilizzo di appli-

Gennaro Terracciano • L’esercizio della funzione amministrativa... 163

cazioni che si fondano su algoritmi conseguenza di autoapprendimento, che rimarrebbero oscuri alla comprensione anche in caso di massima trasparenza e accessibilità, tenuto conto che si tratterebbe di stringhe o formule alfanumeriche che non consentono valutazioni simili a quelle che potrebbero farsi in relazione all’agire umano.

Come già evidenziato in altro scritto “In altri termini, il processo di sussunzione tra fattispecie concreta e norma non è facilmente perime-trabile, e la discrezionalità insita in ogni decisione, umana o automatizzata che sia, è caratterizzata da un continuo confronto tra elementi di input e dati esperienziali, con cicli tendenti all’infinito. Il presupposto di fatto e quello di diritto si confondono e l’istruttoria finisce per essere simultanea alla decisione, in modo indistinguibile” 20.

Si è pure già rilevato che a fronte della capacità della tecnoscien-za di generare effetti straordinariamente invasivi nella sfera delle comunità, non si manifesta altrettanta capacità della stessa tecno-scienza di prevedere con adeguata certezza ciò che accadrà21. Eppu-re, i sistemi c.d. predittivi sembrano possedere una forza persua-siva tale da divenire ‘influenzanti’ al punto da essere fattori determinanti delle scelte collettive (non solo in campo politico). Così l’IA è in grado di trascendere dalla mera funzione predittiva per riusci-re a indirizzare ogni “elemento causale” verso l’evento supposto, re-alizzando in concreto la predizione: capacità predittiva o elemento causale primario (di un evento che non si sarebbe realizzato senza la previsione)?

In Italia, la giurisprudenza amministrativa, soprattutto del Consiglio di Stato, ha preso atto della esistenza di decisioni amministrative con utilizzazione di algoritmi, ad esempio quanto alle procedure di assunzioni e assegnazioni di docenti con procedure automatizzate, stabilendo limiti e condizioni per l’accettabilità della decisione automatizzata in ambito amministrativo, fissando i crite-20 G. Terracciano, I.I.A., op. cit.

21 G. Limone, Dare dignità alla speranza e speranza alla dignità. L’essere umano concreto al centro delle scienze e della vita: un crocevia di paradossi teorici ed etici, Prolusione all’inaugurazione dell’anno accademico 2006/2007 della Seconda Università degli Studi di Napoli.

164

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law ri: di conoscibilità, trasparenza e accessibilità22; del procedimento; della non esclusività e della dominabilità umana della decisione; della non discriminatorietà dei dati immessi nel sistema23.

Si tratta, comunque, di approcci giurisprudenziali di matrice tradizionale, limitate dalla tipologia di giudizio che ha natura esclu-sivamente di legittimità e non di merito.

Ciò che pare ancora mancare è il riconoscimento della limitatez-za di tale risposta giustiziale, a fronte della necessità di non limi-tarsi alla valutazione della sussistenza dei vizi di legittimità nell’azione amministrativa algoritmica, ma invece di ampliare la potestà dei giudici per verificare in concreto il risultato e le conseguenze dell’agire amministrativo, in funzione dell’effettivo perseguimento del pubblico interesse, e nel rispetto dei criteri di giustizia ed equità, e non di sola legalità.

In altri termini, quindi, occorre prendere atto che i principi e criteri legislativi che regolano l’azione delle pubbliche amministrazio-ni attraverso procedimenti, a dir così, analogici, non sono sufficienti a garantire legalità e soprattutto democraticità quanto ai procedimenti caratterizzati da utilizzazione di algoritmi non tradizionali, cioè scaturenti da macchine evolute attraverso autoapprendimento, che rendono la Black box indecifrabile per natura24, o c.d. ricorsivi, cioè che utilizzano la tecnica della ricorsione per risolvere un problema suddividendolo in sotto problemi più piccoli dello stesso tipo25.

Un adeguamento dei principi di riferimento pare necessario anche per evitare che in ambito pubblicistico si rallenti l’utilizza-bilità dell’IA, che invece in ambito privatistico sembra non avere allo stato limiti, con l’effetto di aggravare ancor più il già esistente 22 E. Prosperetti, Accesso al software e al relativo algoritmo nei procedimenti amministrativi e giudiziali. Un’analisi a partire da due pronunce del TAR Lazio, “Dir.

Inf. e Informatica” 4/2019, p. 979 e ss.; N. Muciaccia, Algoritmi e procedimento decisionale: alcuni recenti arresti della giustizia amministrativa, “Federalismi” 10/2020.

23 D. Ponte, G. Pernice, L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze, www.giustizia-amministrativa.it, ottobre 2021

[accesso: 09.04.2024].

24 M. Corradino, Intelligenza artificiale, op. cit.

25 G.E. Sacks, Teoria della ricorsività, Rend. Sem. Mat, Politecnico di Torino, conferenza 23 gennaio 1996.

Gennaro Terracciano • L’esercizio della funzione amministrativa... 165

gap tecnologico tra le grandi imprese private e gli Stati. Legalità, buon andamento, imparzialità, trasparenza, imputabilità, responsabilità, prevenzione, precauzione, proporzionalità, umanità, sono principi e criteri che indubbiamente devono essere rispettati con dovuti adattamenti, ai quali occorre aggiungere, come specifici del procedimento algoritmico e per pervenire alla “verità” algoritmica, almeno quelli della fiducia e del risultato26.

26 Sui principi e criteri applicabili ai procedimenti algoritmici, solo da ulti-mo si vedano: G. Resta, Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di uguaglianza, “Politica del diritto” 2 (2019), p. 199 ss.; G. Resta, Algoritmi, diritto, democrazia, “Giustizia civile.com”, Editoriale, 2019; A. Celotto, Come regolare gli algoritmi. Il difficile bilanciamento fra scienza, etica e diritto, “Analisi giuridica dell’economia” 1 (2019), p. 47 ss.; P. Zuddas, Intelligenza artificiale e discriminazioni, “Liber amicorum per Pasquale Costanzo”, sul sito www.giurcost.org, 2020; M.C. Cavallaro, G. Smorto, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, “Federalismi.it” 2019; G.C. Feroni, C. Fontana, E.C. Raffiotta, AI Anthology, Profili giuridici, economici e sociali dell‘intelligenza artificiale, Il Mulino, Bologna 2022; G. Carullo, Dati, ban-che dati, blockchain e interoperabilità dei sistemi informatici nel settore pubblico, in R. Cavallo Perin, D.U. Galetta (a cura di), Il Diritto dell’Amministrazione Pubblica digitale, Giappichelli, Torino 2020, p. 191–221; A.G. Orofino, L’attuazione del principio di trasparenza nello svolgimento dell’amministrazione elettronica, “Judicium” 2020; B. Ponti, L’amministrazione come fornitore e come fruitore di dati personali pubblici: sono praticabili soluzioni basate sulla Big Data Analytics/Machine Learning? , in R. Cavallo Perin (a cura di), L’amministrazione pubblica con i Big Data, Torino 2021, p. 233–250; N. Rangone, Intelligenza artificiale e intelligenza umana a supporto di una buona amministrazione, “Munera” n. 2/2022; F. Luciani, Brevi note sull’innovazione tecnologica come strumento di buona amministrazione, “La cittadinanza europea” n. 2/2022, p. 199–218; G.M. Racca, La responsabilità delle organizzazioni pubbliche nella trasformazione digitale e i principi di collaborazione e buona fede, “Dir.

Amm.” n. 3/2022; V. Fanti, Intelligenza artificiale e diritto amministrativo: prospettive, limiti, pericoli, “Dir. e proc. amm.” 2022, p. 1002; G. Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione decisionale tra procedimento e processo, Milano 2023; A. Romeo, Certezza del diritto e amministrazione di risultato alla prova della trasformazione digitale, in Scritti in onore di Maria Im-mordino, Napoli 2022; P. Rubechini, Tecnologia blockchain e fiducia amministrativa, Napoli 2023.

166

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law Deduzioni (non) conclusive

Come declinare i principi della fiducia e del risultato con riferimento all’azione amministrativa algoritmica non pare sia cosa semplice e, quindi, occorre forse prendere le mosse da alcune considerazioni svolte, che possono sintetizzarsi come segue: a) la regolamentazione generale in tema di IA predittiva e generativa è al momento del tutto insufficiente e comunque sembra prevalentemente orientarsi sulla base di una matrice dei rischi; b) la disciplina specifica sull’IAA e sul procedimento amministrativo algoritmico è addirittura inesistente; c) la tecnologia e le risorse dirette alla ricerca in questo campo sono prevalentemente nella disponibilità di multinazionali private (GAFAM – BATX); d) i rischi di alterazione del rapporto Autorità-Libertà a seguito dell’incontrollato utilizzo di IA nell’esercizio del potere pubblico è sentito come grave; e) la concentrazione del “potere”

dell’IA in capo a multinazionali private, associata alla assenza di sorveglianza e controllo di natura pubblica, può condurre ad una sorta di Tecnocrazia, che finirebbe per condizionare fortemente i governi degli Stati (democratici o meno che siano i relativi sistemi politi-ci) o addirittura di sostituirli; f) non pare possibile (né conveniente) fermare o rallentare il progresso tecnologico e quindi occorre fare in modo che l’IA sia “dominabile” (governance inclusiva); g) gli algoritmi complessi o avanzati fondati su autoapprendimento sono difficilmente valutabili (e comprensibili) ex post in chiave di legittimità o conformità con le attuali regole dell’agire amministrativo.

L’approccio alla regolamentazione generale, sia quanto agli 11

principi del G7 di Hiroshima, sia quanto all’imminente Regolamento (legge) sull’IA dell’Unione Europea (che ha creato anche un Uffi-cio europeo per l’IA e previsto una struttura di governance europea e strutture analoghe nazionali), è simile, e può ricavarsi, tra gli altri principi fondamentali, il comune sentire come rilevante la necessità di un sistema chiaro di responsabilità in itinere dei soggetti che creano, immettono, distribuiscono e utilizzano sistemi avanzati di IA, a cui corrisponde la necessità di valutazione, controllo e, si potrebbe aggiungere, di certificazione da parte dei poteri pubblici, a protezione degli utenti (e dei cittadini amministrati).

Gennaro Terracciano • L’esercizio della funzione amministrativa... 167

Tale approccio può essere utilizzato anche per le più specifiche regole dell’azione amministrativa algoritmica, e in tale direzione dovrebbero essere considerati i due principi sopraddetti. Se con “fiducia” si vuole intendere il modo di sentire il rapporto tra l’Autorità amministrativa e il Soggetto amministrato, come peraltro statuito di recente dal nuovo Codice dei contratti pubblici italiano (n. 36 del 2023), che si sostanzia nella reciproca fiducia nell’azione legittima, trasparente e corretta dell’amministrazione, dei suoi funzionari e, correlativamente, degli operatori economici, allora esso richiede che sia l’Autorità pubblica a sorvegliare la qualità e quantità di dati di input strumentale, in funzione di addestramento, a costruire l’algoritmo da utilizzarsi nell’ambito o in sostituzione di procedimenti amministrativi. Detta sorveglianza potrebbe confluire in una sorta di abilitazione o autorizzazione all’utilizzazione di modelli o applicazioni di IA nell’ambito dell’esercizio dell’attività amministrativa, indipendentemente dalla circostanza che i controlli in itinere ven-gano autocertificati o certificati da operatori economici o svolti dalla stessa pubblica amministrazione. Il principio della fiducia verso la correttezza dell’agire pubblico quanto alla sorveglianza del processo di costruzione dell’algoritmo finirebbe per sminuire l’importanza dell’accesso e della conoscibilità dell’algoritmo, per sua natura in-sondabile e non soggetto a valutazioni di conformità a regole legali.

In definitiva, il principio della fiducia giocherebbe un ruolo essenziale quanto al controllo dei presupposti tecnici dell’algoritmo.

La valutazione, anche giurisdizionale, della correttezza sostanziale e quindi della giustezza giuridica e, in fondo, dell’equità della decisione, sarebbe così concentrata su due momenti essenziali: la quantità e qualità dei dati (input) e la decisione finale (output), dive-nendo quasi irrilevante il processo di elaborazione e l’esame dell’algoritmo.

Sulla decisione finale svolge la sua funzione il principio del risultato, in attuazione del principio di buona amministrazione (art. 97

Cost) e dei criteri di efficacia, economicità ed efficienza. La decisione amministrativa, anche algoritmica, non può che essere orientata al benessere complessivo degli amministrati, e quindi all’interesse pubblico generale, sia pur nel perseguimento dell’interesse pubbli-

168

Sztuczna inteligencja i prawo •  Artificial Intelligence and Law co specifico, in modo tale che la spendita delle risorse sia proporzio-nata e responsabile: il buon andamento riguarda principalmente la capacità della decisione finale di realizzare tali obiettivi contempe-rando tutti gli interessi pubblici e privati coinvolti. Ma ciò che più rileva è che il principio del risultato impone una valutazione effettiva, di merito e non solo di mera conformità a norma, della decisione finale, sia da parte della stessa autorità amministrativa che sorveglia la produzione attraverso un processo algoritmico, sia dell’autorità giurisdizionale, che dovrebbe concentrarsi non più su vizi di forma o procedimentali (tenuto conto dell’iniziale abilitazione o autorizzazione all’utilizzo dell’algoritmo), ma valutare con pienezza il rapporto amministrativo per come risulta regolato in concreto e la decisione finale (l’atto amministrativo prodotto dal sistema di IA o con l’ausilio dello stesso), per valutarne la conformità all’interesse pubblico, con pienezza di poteri e con rivalutazione del vizio di svia-mento di potere, quale divergenza tra l’azione concreta e l’interesse pubblico da perseguire, prendendosi atto della inutilità, in questi ambiti, della distinzione tra discrezionalità tecnica e quella amministrativa. Forse si tratta di considerazioni in parte assertive e da sviluppare in coerenza con l’evolversi della tecnologia, e per questo in fondo si tratta solo di deduzioni (non) conclusive.

Bibliografia

Auby J.B., Conclusioni, L’amministrazione digitale, Napoli 2023.

Carloni E., I principi della legalità algoritmica. Le decisioni automatizzate di fronte al Giudice amministrativo, “Diritto Amministrativo” 2 (2020).

Cavallaro M.C., Smorto G., Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, “Federalismi” 16 (2019).

Chimirri G., IA Intelligenza Artificiale-Etica delle macchine pensati, Aste-rios 2001.

Corradino M., Intelligenza artificiale e pubblica amministrazione; sfide concrete e prospettive future, www.giustizia-amministrativa.it, settembre 2021 [accesso: 09.04.2024].

De Felice S., Intelligenza artificiale e “Invalidità e giustiziabilità dinanzi al giudice amministrativo” , www.giustizia-amministrativa.it, luglio 2021

[accesso: 09.04.2024].

Gennaro Terracciano • L’esercizio della funzione amministrativa... 169

Limone G., Daredignità alla speranza e speranza alla dignità. L’essere umano concreto al centro delle scienze e della vita: un crocevia di paradossi teorici ed etici, Prolusione all’inagurazione dell’anno accademico 2006/2007

della Seconda Università degli Studi di Napoli.

Limone G., L’algoritmo e il mondo della vita. Nuovi appunti sul fondamen-talismo macchinico nell’era contemporanea, “Rivista. Persona. Periodico internazionale di studi e dibattito” n. 1–2, Capua 2017, p. 1–60.

Muciaccia N., Algoritmi e procedimento decisionale: alcuni recenti arresti della giustizia amministrativa, “Federalismi” 10 (2020).

Ponte D., Pernice G., L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze, www.giustizia-amministrativa.it, ottobre 2021 [accesso: 09.04.2024].

Prosperetti E., Accesso al software e al relativo algoritmo nei procedimenti amministrativi e giudiziali. Un’analisi a partire da due pronounce del TAR

Lazio, “Diritto e Informatica” 4 (2019).

Sacks G.E., Teoria della ricorsività, Rend. Sem. Mat, Politecnico di Torino, conferenza 23 gennaio 1996.

Terraciano G., Colarusso A., L’indizio nella decisione amministrativa (Teoria e prassi dell’inferenza probatoria nell’esercizio della funzione amministrativa e del potere giurisdizionale), Napoli 2021.

Terraciano G., L’applicazione in campo giuridico delle reti artificiali, Il programma “Giurinet” , T.A.R., p. 497, II, 1998.

Document Outline

Pusta strona