Autonomiczność systemów sztucznej inteligencji jako wyzwanie dla prawa karnego

Rafał Rejmaniak

doi:10.18290/rnp21313.6

Rafał Rejmaniak Uniwersytet w Białymstoku https://orcid.org/0000-0003-1908-5844

DOI: https://doi.org/10.18290/rnp21313.6

Słowa kluczowe: sztuczna inteligencja, gwarant, autonomia, system SI

Abstrakt

Opracowanie jest próbą przedstawienia wyzwań niesionych przez rozwój systemów sztucznej inteligencji dla prawa karnego. Wraz ze wzrostem autonomiczności systemu SI maleje rola człowieka, co generuje problem w zakresie ustalenia podmiotu, któremu należałoby przypisać odpowiedzialność karną za ewentualne narażanie lub naruszanie przez działanie systemu dóbr prawnie chronionych. W przypadku systemów o stosunkowo niskim stopniu autonomiczności, z reguły człowiek będzie odpowiedzialny za wywołane przez nie skutki. W odniesieniu do systemów bardziej zaawansowanych człowiek może ponosić odpowiedzialność jako gwarant nienastąpienia skutku, jeżeli obowiązek zapobiegnięcia skutkowi miał szczególny prawny charakter. Największe i, jak dotąd, nierozwiązane problemy z przypisaniem odpowiedzialności karnej powodować jednak będą potencjalne w pełni autonomiczne systemy SI.

Bibliografia

Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, COM(2020) 65 final, Bruksela: Komisja Europejska 2020, https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_pl.pdf [dostęp: 6.02.2021].

Boden Margaret Ann: Sztuczna inteligencja. Jej natura i przyszłość, Łódź: Wydawnictwo Uniwersytetu Łódzkiego 2020.

Bosek Leszek: Perspektywy rozwoju odpowiedzialności cywilnej za inteligentne roboty, „Forum Prawnicze” 52 (2019), nr 2, s. 3-17.

Chłopecki Aleksander: Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa: Wydawnictwo C.H. Beck 2018.

Coeckelbergh Mark: Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability, „Science and Engineering Ethics” 2020, nr 26 s. 2051-2068.

Contissa Giuseppe: Automation and Liability: an Analysis in the Context of Socio-Technical Systems, i-lex 2017.

Cummings Mary L.: Automation and Accountability in Decision Support System Interface Design, „The Journal of Technology Studies” 32 (2006), nr 1, s. 23-31.

Davenport Thomas, Kalakota Ravi: The potential for artificial intelligence in healthcare, „Future Healthcare Journal” 6 (2019), nr 2, s. 94-98.

Definicja SI: Główne funkcje i dyscypliny, Grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji, Bruksela: Komisja Europejska 2019, https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-guidelines-AI_PL.pdf [dostęp: 6.02.2021].

Filipkowski Wojciech: Prawo karne wobec sztucznej inteligencji, [w:] Prawo sztucznej inteligencji, red. L. Lai, M. Świerczyński, Warszawa: Wydawnictwo C.H. Beck 2020, s. 113-128.

Fjeld Jessica, Achten Nele, Hilligoss Hannah, Nagy Adam, Srikumar Madhu: Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI, Cambridge: Berkman Klein Center for Internet & Society 2020.

Flasiński Mariusz: Wstęp do sztucznej inteligencji, Warszawa: Wydawnictwo Naukowe PWN 2020.

Giezek Jacek: Teorie związku przyczynowego oraz koncepcje obiektywnego przypisania, [w:] System Prawa Karnego, t. III: Nauka o przestępstwie. Zasady odpowiedzialności, red. R. Dębski, Warszawa: Wydawnictwo C.H. Beck 2017, s. 444-553.

Hallevy Gabriel: Liability for Crimes Involving Artificial Intelligence Systems, Cham–Heidelberg–New York–Dordrecht–London: Springer 2015.

Hallevy Gabriel: When Robots Kill. Artificial Intelligence under Criminal Law, Boston: Northeastern University Press 2013.

Kaczmarek Janusz, Sampolski Adam: Wybrane zagadnienia odpowiedzialności karnej pojazdów autonomicznych, „Monitor Prawniczy” 2018, nr 9, s. 490-496.

Kasperska Anna: Problemy zastosowania sztucznych sieci neuronalnych w praktyce prawniczej, „Przegląd Prawa Publicznego” 2017, nr 11, s. 25-32.

Kliś Maciej: Źródła obowiązku gwaranta w polskim prawie karnym, „Czasopismo Prawa Karnego i Nauk Penalnych” III (1999), z. 2, s. 169-196.

Koops Bert-Jaap, Hildebrandt Mireille, Jaqiett-Chifelle David-Olivier: Bridging the Accountability Gap: Rights for New Entities in the Information Society?, „Minnesota Journal of Law, Science and Technology” 11 (2010), nr 2, s. 497-561.

Krasuski Andrzej: Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji, Warszawa: Wydawnictwo C.H. Beck 2021.

Lachowski Jerzy: Komentarz do art. 2 k.k., [w:] Kodeks karny. Komentarz, red. V. Konarska- Wrzosek, LEX.

Lele Ajey: Debating Lethal Autonomous Weapons Systems, „Journal of Defense Studies” 13 (2019), nr 1, s. 51-70.

Mamak Kamil: Prawo karne przyszłości, Warszawa: Wolters Kluwer Polska 2017.

Massey Gary, Ehrensberger-Dow Maureen: Machine learning: Implications for translator education, „Lebende Sprachen” 62 (2017), nr 2, s. 300-312.

McCarthy John, Minsky Marvin Lee, Rochester Nathaniel, Shannon Claude Elwood: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 1955, http://www-formal.stanford.edu/jmc/history/dartmouth.pdf [dostęp: 6.02.2021].

Michie Donald: Methodologies from Machine Learning in Data Analysis and Software, „The Computer Journal” 34 (1991), nr 6, s. 559-565.

Neff Gina, Nagy Peter: Talking to Bots: Symbiotic Agency and the Case of Tay, „International Journal of Communication” 2016, nr 10, s. 4915-4931.

Neumann Tomasz, Perspektywy wykorzystania pojazdów autonomicznych w transporcie drogowym w Polsce, „Autobusy” 2018, nr 12, s. 787-794.

Parasuraman Raja, Sheridan Thomas B., Wickens Christopher D.: A Model for Types and Levels of Human Interaction with Automation, „IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans” 30 (2000), nr 3, s. 286-297.

Pietrzykowski Tomasz: Ludzkie, niezbyt ludzkie. Esej o podmiotowości prawnej i wyzwaniach XXI w., Katowice: Wydawnictwo Uniwersytetu Śląskiego 2016.

Pohl Łukasz: Artykuł 2 Kodeksu karnego w roli wyznacznika przestępstwa skutkowego popełnionego przez zaniechanie, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 70 (2008), nr 3, s. 87-95.

Pohl Łukasz: Komentarz do art. 2 k.k., [w:] Kodeks karny. Komentarz, red. R.A. Stefański, LEGALIS.

Pohl Łukasz: Przyczynek do rozważań o strukturze nieumyślności, [w:] Obiektywne oraz subiektywne przypisanie odpowiedzialności karnej, red. J. Giezek, P. Kardas, Warszawa: Wolters Kluwer Polska 2016, s. 418-431.

Rejmaniak Rafał: Odpowiedzialność karna za skutki spowodowane przez autonomiczne roboty bojowe – zarys problemu, [w:] Wykorzystanie dronów i robotów w systemach bezpieczeństwa. Wybrane aspekty, red. R. Kamprowski, M. Skarżyński, Poznań: Wydawnictwo Naukowe Wydziału Nauk Politycznych i Dziennikarstwa 2019, s. 27-50.

Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103(INL)), Dz. Urz. UE z 2018 r., nr C 252/239.

Ribeiro Marco Tulio, Singh Sameer, Guestrin Carlos: „Why Should I Trust You?” Explaining the Predictions of Any Classifier, San Francisco: The 22nd ACM SIGKDD International Conference 2016, s. 1-10, https://www.kdd.org/kdd2016/papers/files/rfp0573-ribeiroA.pdf [dostęp: 6.02.2021].

Różanowski Krzysztof: Sztuczna inteligencja: rozwój, szanse i zagrożenia, „Zeszyty Naukowe Warszawskiej Wyższej Szkoły Informatyki” 2007, nr 2, s. 109-135.

Rutkowski Leszek: Metody i techniki sztucznej inteligencji, Warszawa: Wydawnictwo Naukowe PWN 2012.

Tegmark Max: Życie 3.0. Człowiek w erze sztucznej inteligencji, Warszawa: Prószyński i S-ka 2019.

Tokarczyk Damian: Obowiązek gwaranta w prawie karnym, „Ruch Prawniczy, Ekonomiczny i Socjologiczny” 76 (2014), nr 4, s. 203-214.

Turing Alan Mathison: Computing Machinery and Intelligence, „Mind” 59 (1950), nr 236, s. 433-460.

Vinge Vernor: The Coming Technological Singularity: How to Survive in the Post-Human Era, [w:] Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, red. G. Landis, S. Bailey, Ohio: NASA Conference Publication 10129, NASA Lewis Research Center 1993 s. 11-22.

Wniosek – Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie sztucznej inteligencji) i zmieniające niektóre inne akty ustawodawcze Unii, {SEC(2021) 167 final} – {SWD(2021) 84 final} – {SWD(2021) 85 final} COM(2021) 206 final, 2021/0106 (COD), Bruksela: Komisja Europejska 2021, https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0012.02/DOC_1&format=PDF [dostęp: 13.07.2021].

Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji, Grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji, Bruksela: Komisja Europejska 2019, https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-guidelines-AI_PL.pdf [dostęp: 6.02.2021].

Założenia do strategii AI w Polsce, Warszawa: Ministerstwo Cyfryzacji 2018.

Zoll Andrzej: Komentarz do art. 2 k.k., [w:] Kodeks karny. Część ogólna. Komentarz, t. I: Komentarz do art. 1-52 (cz. 1), red. W. Wróbel, A. Zoll, LEX.