Regulacija algoritama
Regulacija algoritama, ili algoritamska regulacija, je kreiranje zakona, pravila i politika javnog sektora za promociju i regulisanje algoritama, posebno u oblasti veštačke inteligencije i mašinskog učenja.[1][2][3] Za podskup VI algoritama koristi se termin regulacija veštačke inteligencije. Regulatorni i politički pejzaž za veštačku inteligenciju (VI) je novo pitanje u jurisdikcijama širom sveta, uključujući i Evropsku uniju.[4] Smatra se da je regulacija VI neophodna za podsticanje VI, kao i za upravljanje povezanim rizicima, ali da predstavlja izazov.[5] Druga tema u nastajanju je regulacija algoritama blokčejna (upotreba pametnih ugovora mora biti regulisana) i pominje se zajedno sa regulacijom VI algoritama.[6] Mnoge zemlje su donele propise o visokofrekventnoj trgovini, koja se zbog tehnološkog napretka pomera u oblast VI algoritama.
Motivacija za regulaciju algoritama je strah od gubitka kontrole nad algoritmima, čiji se uticaj na ljudski život povećava. Više zemalja je već uvelo propise u slučaju automatskog izračunavanja kreditnog skora — pravo na objašnjenje je obavezno za te algoritme.[7][8] Na primer, IEEE je počeo da razvija novi standard da bi se eksplicitno bavio etičkim pitanjima i vrednostima potencijalnih budućih korisnika.[9] Pristrasnost, transparentnost i etička zabrinutost su se pojavile u pogledu upotrebe algoritama u različitim domenima, od krivičnog pravosuđa[10] do zdravstvene zaštite[11] — mnogi strahuju da bi veštačka inteligencija mogla da replicira postojeće društvene nejednakosti duž rase, klase, pola i linije seksualnosti.
Reference
[уреди | уреди извор]- ^ „Algorithms have gotten out of control. It's time to regulate them.”. theweek.com (на језику: енглески). 3. 4. 2019. Приступљено 22. 3. 2020.
- ^ Martini, Mario. „FUNDAMENTALS OF A REGULATORY SYSTEM FOR ALGORITHM-BASED PROCESSES” (PDF). Приступљено 22. 3. 2020.
- ^ „Rise and Regulation of Algorithms”. Berkeley Global Society. Приступљено 22. 3. 2020.
- ^ Law Library of Congress (U.S.). Global Legal Research Directorate, issuing body. Regulation of artificial intelligence in selected jurisdictions. OCLC 1110727808.
- ^ Wirtz, Bernd W.; Weyerer, Jan C.; Geyer, Carolin (2018-07-24). „Artificial Intelligence and the Public Sector—Applications and Challenges”. International Journal of Public Administration. 42 (7): 596—615. ISSN 0190-0692. S2CID 158829602. doi:10.1080/01900692.2018.1498103.
- ^ Fitsilis, Fotios (2019). Imposing Regulation on Advanced Algorithms (на језику: енглески). Springer International Publishing. ISBN 978-3-030-27978-3.
- ^ Consumer Financial Protection Bureau, §1002.9(b)(2)
- ^ Edwards, Lilian; Veale, Michael (2018). „Enslaving the Algorithm: From a 'Right to an Explanation' to a 'Right to Better Decisions'?” (PDF). IEEE Security & Privacy. 16 (3): 46—54. S2CID 4049746. SSRN 3052831
. doi:10.1109/MSP.2018.2701152.
- ^ Treleaven, Philip; Barnett, Jeremy; Koshiyama, Adriano (фебруар 2019). „Algorithms: Law and Regulation”. Computer. 52 (2): 32—40. ISSN 0018-9162. S2CID 85500054. doi:10.1109/MC.2018.2888774.
- ^ Hao, Karen (21. 1. 2019). „AI is sending people to jail—and getting it wrong”. MIT Technology Review (на језику: енглески). Приступљено 2021-01-24.
- ^ Ledford, Heidi (2019-10-24). „Millions of black people affected by racial bias in health-care algorithms”. Nature (на језику: енглески). 574 (7780): 608—609. Bibcode:2019Natur.574..608L. PMID 31664201. S2CID 204943000. doi:10.1038/d41586-019-03228-6.