Ek voel bang. Baie bang.
Internetwye toesig en sensuur, moontlik gemaak deur die ondenkbaar enorme rekenaarkrag van kunsmatige intelligensie (KI), is hier.
Dit is nie 'n futuristiese distopie nie. Dit gebeur nou.
Regeringsagentskappe werk saam met universiteite en niewinsorganisasies om KI-instrumente te gebruik om inhoud op die internet te monitor en te sensureer.
Dit is nie polities of partydig nie. Dit gaan nie oor enige spesifieke opinie of idee nie.
Wat gebeur, is dat 'n instrument wat kragtig genoeg is om alles wat op die internet gesê en gedoen word (of groot dele daarvan) dop te hou, beskikbaar word vir die regering om ons almal, heeltyd, te monitor. En, gebaseer op daardie monitering, kan die regering – en enige organisasie of maatskappy waarmee die regering saamwerk – dan dieselfde instrument gebruik om enige spraak wat dit nie hou nie, te onderdruk, stil te maak en af te sluit.
Maar dis nie al nie. Deur dieselfde instrument te gebruik, kan die regering en sy publiek-private, "nie-regerings"-vennote (dink byvoorbeeld: die Wêreldgesondheidsorganisasie, of Monsanto) ook enige aktiwiteit wat aan die internet gekoppel is, afskakel. Bankdienste, koop, verkoop, onderrig, leer, vermaak, verbinding met mekaar – as die regeringsbeheerde KI nie hou van wat jy (of jou kinders!) in 'n twiet of 'n e-pos sê nie, kan dit dit alles vir jou afskakel.
Ja, ons het dit op 'n baie plaaslike en gepolitiseerde skaal gesien met, byvoorbeeld, die Kanadese vragmotorbestuurders.
Maar as ons gedink het hierdie tipe aktiwiteit kan, of sal nie, op 'n nasionale (of selfs meer skrikwekkende – globale) skaal gebeur nie, moet ons nou wakker word en besef dat dit gebeur, en dit is dalk nie stopbaar nie.
Nuwe dokumente toon dat regeringsbefondsde KI bedoel is vir aanlyn sensuur
Die Amerikaanse Huis se Geselekteerde Subkomitee oor die Bewapening van die Federale Regering is in Januarie 2023 gestig "om sake te ondersoek wat verband hou met die insameling, ontleding, verspreiding en gebruik van inligting oor Amerikaanse burgers deur uitvoerende gesagsagentskappe, insluitend of sulke pogings onwettig, ongrondwetlik of andersins oneties is."
Ongelukkig word die werk van die komitee, selfs deur sy eie lede, as grootliks polities beskou: Konserwatiewe wetgewers ondersoek wat hulle beskou as die stilmaak van konserwatiewe stemme deur liberaal-leunende regeringsagentskappe.
Nietemin het hierdie komitee in sy ondersoeke 'n paar verstommende dokumente ontdek wat verband hou met regeringspogings om die spraak van Amerikaanse burgers te sensureer.
Hierdie dokumente het deurslaggewende en skrikwekkende implikasies vir die hele samelewing.
In die subkomitee se tussentydse verslag, gedateer 5 Februarie 2024, dokumente toon dat akademiese en niewinsgewende groepe 'n regeringsagentskap voorlê oor 'n plan om KI-"misinligtingsdienste" te gebruik om inhoud op internetplatforms te sensureer.
Spesifiek verduidelik die Universiteit van Michigan aan die National Science Foundation (NSF) dat die KI-aangedrewe gereedskap wat deur die NSF befonds word, gebruik kan word om sosiale mediaplatforms te help om sensuuraktiwiteite uit te voer sonder om eintlik die besluite te neem oor wat gesensor moet word.
Hier is hoe die verhouding in die subkomitee se verslag gevisualiseer word:
Hier is 'n spesifieke aanhaling wat in die subkomitee se verslag aangebied word. Dit kom uit "Spreker se notas van die Universiteit van Michigan se eerste aanbieding aan die Nasionale Wetenskapstigting (NSF) oor sy NSF-befondsde, KI-aangedrewe WiseDex-instrument." Die notas is by die komitee geliasseer.
Ons waninligtingsdiens help beleidmakers by platforms wat ... verantwoordelikheid vir moeilike oordele na iemand buite die maatskappy wil skuif ... deur die moeilike verantwoordelikheid van sensuur te eksternaliseer.
Dit is 'n buitengewone stelling op soveel vlakke:
- Dit stel "misinformasiediens" eksplisiet gelyk aan sensuur.
Dit is 'n deurslaggewende vergelyking, want regerings wêreldwyd maak asof hulle skadelike waninligting bestry terwyl hulle dit in werklikheid doen. die goedkeuring van massiewe sensuurwette. Die WEF verklaar “waninligting en disinligting” die “ernstigste globale risiko's” in die volgende twee jaar, wat vermoedelik beteken dat hul grootste pogings na sensuur sal gaan.
Wanneer 'n regeringskontrakteur eksplisiet verklaar dat hy 'n "misinligtingsdiens" verkoop wat aanlynplatforms help om "sensuur te eksternaliseer" - word die twee terme as uitruilbaar erken.
- Dit verwys na sensuur as 'n "verantwoordelikheid".
Met ander woorde, dit neem aan dat deel van wat die platforms behoort te doen, sensuur is. Nie om kinders teen seksroofdiere of onskuldige burgers teen waninligting te beskerm nie – net gewone en eenvoudige, onvervalste sensuur.
- Dit verklaar dat die rol van KI is om die verantwoordelikheid vir sensuur te “eksternaliseer”.
Die tegnologieplatforms wil nie sensuurbesluite neem nie. Die regering wil daardie besluite neem, maar wil nie as sensurerend beskou word nie. Die KI-instrumente laat die platforms toe om die sensuurbesluite te "eksternaliseer" en die regering om sy sensuuraktiwiteite weg te steek.
Dit alles behoort die illusie te beëindig dat wat regerings regoor die wêreld "die teenwerking van waninligting en haatspraak" noem, nie reguit sensuur is nie.
Wat gebeur wanneer KI-sensuur ten volle geïmplementeer word?
Aangesien die regering reeds vir KI-sensuurinstrumente betaal, moet ons ons gedagtes toedraai om te verstaan wat dit behels.
Geen mannekragbeperkings nie: Soos die subkomiteeverslag uitwys, het die beperkings op aanlyn sensuur deur die regering tot dusver die groot aantal mense behels wat deur eindelose lêers moes gaan en sensuurbesluite moes neem. Met KI hoef skaars enige mense betrokke te wees, en die hoeveelheid data wat dopgehou kan word, kan so groot wees soos alles wat enigiemand op 'n spesifieke platform sê. Daardie hoeveelheid data is onbegryplik vir 'n individuele menslike brein.
Niemand is verantwoordelik nie: Een van die mees skrikwekkende aspekte van KI-sensuur is dat wanneer KI dit doen, daar geen mens of organisasie is nie – of dit nou die regering, die platforms of die universiteit/niewinsorganisasies is – wat eintlik verantwoordelik is vir die sensuur. Aanvanklik gee mense die KI-instrument instruksies vir watter kategorieë of tipes taal om te sensureer, maar dan gaan die masjien voort en neem die geval-tot-geval-besluite self.
Geen verhaal vir klagtes nie: Sodra KI met 'n stel sensuurinstruksies ontketen word, sal dit miljoene aanlyn datapunte opspoor en sensuuraksies toepas. As jy 'n KI-sensuuraksie wil betwis, sal jy met die masjien moet praat. Miskien sal die platforms mense aanstel om op appèlle te reageer. Maar hoekom sou hulle dit doen as hulle KI het wat daardie reaksies kan outomatiseer?
Geen beskerming vir jongmense: Een van die bewerings wat deur regeringssensors gemaak word, is dat ons ons kinders moet beskerm teen skadelike aanlyn inligting, soos inhoud wat hulle anoreksies maak, hulle aanmoedig om selfmoord te pleeg, hulle in ISIS-terroriste verander, ensovoorts. Ook teen seksuele uitbuiting. Dit is alles ernstige kwessies wat aandag verdien. Maar dit is nie naastenby so gevaarlik vir 'n groot aantal jongmense soos KI-sensuur nie.
Die gevaar wat KI-sensuur inhou, geld vir alle jongmense wat baie tyd aanlyn deurbring, want dit beteken dat hul aanlynaktiwiteite en taal gemonitor en teen hulle gebruik kan word – miskien nie nou nie, maar wanneer die regering besluit om 'n spesifieke tipe taal of gedrag aan te val. Dit is 'n veel groter gevaar vir 'n veel groter aantal kinders as die gevaar wat enige spesifieke inhoud inhou, want dit omvat al die aktiwiteite wat hulle aanlyn doen en raak byna elke aspek van hul lewens.
Hier is 'n voorbeeld om hierdie gevaar te illustreer: Kom ons sê jou tiener speel baie interaktiewe videospeletjies aanlyn. Kom ons sê hy verkies speletjies wat deur Chinese maatskappye ontwerp is. Miskien kyk hy ook hoe ander daardie speletjies speel, en neem deel aan geselsies en besprekingsgroepe oor daardie speletjies, waaraan baie Chinese burgers ook deelneem.
Die regering mag volgende maand, of volgende jaar, besluit dat enigiemand wat hewig betrokke is by Chinees-ontwerpte videospeletjies 'n gevaar vir die demokrasie is. Dit kan daartoe lei dat jou seun se sosiale media-rekeninge gesluit word of dat hy toegang tot finansiële instrumente, soos universiteitslenings, geweier word. Dit kan ook behels dat hy op werk- of afspraakwebwerwe as gevaarlik of ongewens gemerk word. Dit kan beteken dat hy 'n paspoort geweier word of op 'n dophoulys geplaas word.
Jou tiener se lewe het sopas baie moeiliker geword. Baie moeiliker as wanneer hy blootgestel word aan 'n ISIS-werwingsvideo of 'n selfmoordverheerlikende TikTok-plasing. En dit sou op 'n baie groter skaal gebeur as die seksuele uitbuiting wat die sensors gebruik as 'n Trojaanse perd vir die normalisering van die idee van aanlyn regeringsensuur.
Monetiseerbare sensuurdienste'n KI-instrument wat deur die regering besit word, kan teoreties deur 'n nie-regeringsentiteit gebruik word met die regering se toestemming, en met die seën van die platforms wat die "verantwoordelikheid" vir sensuur wil "eksternaliseer". Dus, terwyl die regering KI dalk gebruik om, kom ons sê as 'n voorbeeld, anti-oorlogsentiment te monitor en te onderdruk – kan 'n maatskappy dit gebruik om, kom ons sê as 'n voorbeeld, anti-kitskossentiment te monitor en te onderdruk. Die regering kan baie geld maak deur die dienste van die KI-instrumente aan derde partye te verkoop. Die platforms kan ook denkbaar vir 'n vermindering vra. Dus kan KI-sensuurinstrumente moontlik die regering, tegnologieplatforms en private korporasies bevoordeel. Die aansporings is so kragtig dat dit amper onmoontlik is om te dink dat hulle nie uitgebuit sal word nie.
Kan ons koers omkeer?
Ek weet nie hoeveel regeringsagentskappe en hoeveel platforms KI-sensuurinstrumente gebruik nie. Ek weet nie hoe vinnig hulle kan opskaal nie.
Ek weet nie watter gereedskap ons tot ons beskikking het nie – behalwe om bewustheid te verhoog en politici te probeer lobby en regsgedinge aanhangig te maak om regeringsensuur te voorkom en die gebruik van KI-gereedskap op die internet te reguleer.
As iemand enige ander idees het, is dit nou die tyd om dit te implementeer.
-
Debbie Lerman, 2023 Brownstone-genoot, het 'n graad in Engels van Harvard. Sy is 'n afgetrede wetenskapskrywer en 'n praktiserende kunstenaar in Philadelphia, PA.
Kyk na alle plasings
