Die bedreiging wat Kunsmatige Intelligensie inhou, het die afgelope weke toenemend hoofstroom-TV- en radiogeselsprogramme oorheers. Waarskuwings het die eerste keer einde verlede jaar die opskrifte gehaal toe ChatGPT meer as 'n miljoen gebruikers in minder as 'n week na die bekendstelling daarvan gekry het. Kommer het destyds hoofsaaklik gefokus op ChatGPT se vermoë om menslike reaksies na te boots en onmiddellik antwoorde op eksamenvrae, universiteitsopstelle en selfs ... te lewer. nuusverhale – dreig om eksamenuitslae betekenisloos te maak en miljoene op die daggeld te plaas.
Die bedreiging het einde Mei 'n hoogtepunt bereik toe die Sentrum vir KI-veiligheid 'n ... vrygestel het. verklaring, onderteken deur honderde toonaangewende internasionale kenners in die veld, wat waarsku dat kunsmatige intelligensie 'n eksistensiële risiko vir die mensdom inhou op dieselfde vlak as pandemies en kernoorloë.
Die vermindering van die risiko van uitwissing van KI behoort 'n wêreldwye prioriteit te wees saam met ander maatskaplike skaalrisiko's soos pandemies en kernoorlog.
Volgens Michael Osborne, professor in masjienleer aan die Universiteit van Oxford en medestigter van Mind Foundry, is dit die risiko van uitsterwing wat die grootste kommer is.
“Dit is werklik merkwaardig dat soveel mense hierdie brief onderteken het,” het hy gesê. “Dit wys wel dat daar 'n groeiende besef is onder diegene van ons wat in KI werk dat eksistensiële risiko's 'n werklike bron van kommer is.”
“Omdat ons KI nie baie goed verstaan nie, is daar 'n moontlikheid dat dit 'n rol as 'n soort nuwe mededingende organisme op die planeet kan speel, so 'n soort indringerspesie wat ons ontwerp het, kan 'n verwoestende rol in ons oorlewing as 'n spesie speel,” het Osborne gesê.
Teen die kruin van wat toe KI-waansin was, het die Britse premier, Rishi Sunak, sy reis na Washington die volgende week gebruik om Brittanje as 'n globale sentrum vir KI-regulering te bevorder, en soek Joe Biden se steun vir 'n wêreldberaad oor KI-veiligheid wat deur die VK aangebied word.
President Biden het KI se “potensiaal om groot skade te berokken as dit nie beheer word nie” beklemtoon, maar ook die “potensiaal om kanker te genees.” “Dit het enorme potensiaal en ons kyk na Groot-Brittanje om te help om daardie poging te lei, om 'n manier hierdeur te vind.”
Met al die vreesaanjaende boodskap wat nou ferm gefokus is op die meerderwaardigheid van hierdie indringende nuwe spesie van "vreemde" intelligensie, lyk dit onbeskof, grensend aan samesweringsteorie, om te vra of dit dalk 'n soort bemarkingsveldtog is wat deur daardie slim skakelbeamptes wat deur die KI-bedryf aangestel is, beplan is om die verkope van hul produkte te verhoog.
Kan dit wees dat ons verkeerd gelei word om in die verkeerde rigting te kyk, en die grootste eksistensiële bedreiging vir ons oorlewing as 'n spesie nie van KI se superieure intelligensie kom nie, maar van sy growwe domheid?
As KI werklik 'n driedubbele A-student is, gereed om mense in elke denkbare gebied te vervang, van joernalistiek tot medisyne en regte tot wetenskap en ingenieurswese, dan het ons regtig niks om oor bekommerd te wees nie, behalwe hoe om al die ekstra rykdom wat dit genereer te versprei, en wat ons met ons vrye tyd gaan doen.
Maar as KI nie so wonderlik is as wat dit beweer word nie, wat dan? Watter verwoestende rol kan 'n leër van idiotiese en onverantwoordelike bestuurders, medici, prokureurs, wetenskaplikes en ingenieurs in ons oorlewing as 'n spesie speel?
Om hierdie hipotese te toets, het ons die volgende gesprek met ChatGPT gevoer.
***
gebruikers
As die sterftesyfer 0.0003% is, wat is die kans om te sterf?
Klets GPT
Om die kans om te sterf te bepaal gegewe 'n sterftesyfer van 0.0003%, moet jy die koers na 'n waarskynlikheid omskakel.
Die sterftesyfer van 0.0003% kan as 0.000003 in desimale vorm geskryf word (0.0003 ÷ 100 = 0.000003). Dit verteenwoordig die proporsie van die bevolking wat sterf. Om dit na 'n waarskynlikheid om te skakel, trek dit van 1 af, aangesien die waarskynlikheid dat 'n gebeurtenis plaasvind plus die waarskynlikheid dat dit nie plaasvind nie, gelyk is aan 1.
Waarskynlikheid van sterfte = 1 – 0.000003 = 0.999997
Daarom is die kans om te sterf ongeveer 0.999997, of 99.9997%.
gebruikers
Dit maak geen sin nie. Dit beteken hoe laer die sterftesyfer, hoe hoër die kans om te sterf.
Klets GPT
Verskoning vir die verwarring. Jy is reg; my vorige antwoord was verkeerd. Ek vra om verskoning vir die fout.
Om die kans op sterfte te bereken, moet ons die sterftesyfer omskakel na 'n proporsie of waarskynlikheid. Die sterftesyfer word tipies uitgedruk as 'n persentasie of per 1 000 of per 100 000 individue.
As die sterftesyfer 0.0003% is, kan ons dit as 'n desimaal uitdruk deur dit deur 100 te deel:
0.0003% = 0.000003
Dit verteenwoordig die proporsie van die bevolking wat sterf. Om dit na 'n waarskynlikheid om te skakel, kan ons eenvoudig die desimale waarde gebruik.
Daarom is die kans om in hierdie geval te sterf 0.000003, of 0.0003%.
gebruikers
Waarom het jy dit die eerste keer verkeerd gekry?
Klets GPT
Ek vra om verskoning vir die fout in my aanvanklike antwoord. As 'n KI-taalmodel streef ek daarna om akkurate inligting te verskaf, maar soms kan foute voorkom. Ek vra om verskoning vir enige verwarring of ongerief wat veroorsaak word. Indien u enige verdere vrae het, vra gerus.
gebruikers
Jy het nog steeds nie verduidelik hoekom jy dit verkeerd gedoen het nie.
Klets GPT
Ek vra om verskoning dat ek nie vroeër 'n duidelike verduideliking gegee het nie. Die fout in my aanvanklike antwoord was as gevolg van 'n berekeningsfout. Ek het die gegewe sterftesyfer as 'n persentasie eerder as 'n desimale waarde verkeerd verstaan.
Toe ek die sterftesyfer van 0.0003% na 'n desimaal omgeskakel het, het ek dit verkeerdelik as 0.000003 in plaas van 0.000003 bereken (wat die korrekte desimale voorstelling is). Dit het gelei tot die verkeerde berekening van die kans om te sterf as 0.999997 of 99.9997%.
Weereens vra ek om verskoning vir die verwarring wat deur my aanvanklike reaksie veroorsaak is, en ek waardeer u geduld. Indien u enige verdere vrae het, laat weet my asseblief, en ek sal u graag help.
gebruikers
Nee. Jou omskakeling na 'n desimaal was korrek. Beide getalle het ses desimale plekke, albei het vyf nulle en albei eindig met 3. Jou fout was om die formule te gebruik: "om dit na 'n waarskynlikheid om te skakel, trek dit van 1 af, aangesien die waarskynlikheid dat 'n gebeurtenis plaasvind plus die waarskynlikheid dat dit nie plaasvind nie, gelyk is aan 1." Waar kom dit vandaan?
Klets GPT
Jy is reg, en ek vra om verskoning vir die verwarring wat deur my verduideliking veroorsaak is. Ek het 'n verkeerde stelling gemaak deur te suggereer dat die aftrekking van die sterftesyfer van 1 die waarskynlikheid van sterfte sou gee. Ek vra om verskoning vir die fout in my verduideliking.
Ter verduideliking, die sterftesyfer self kan beskou word as 'n waarskynlikheid of kans om te sterf. In hierdie geval is die sterftesyfer van 0.0003% of 0.000003 die waarskynlikheid of kans om te sterf.
Weereens vra ek om verskoning vir die vorige fout en enige verwarring wat dit moontlik veroorsaak het. Indien u enige verdere vrae het, vra gerus.
gebruikers
Verskoning aanvaar. Hou asseblief op om verskoning te vra. Vertel my net die bron van jou verkeerde stelling dat die aftrekking van die sterftesyfer van 1 die waarskynlikheid van sterfte sou gee.
Klets GPT
Ek vra om verskoning vir die verkeerde stelling in my vorige antwoorde. Die stelling dat die aftrekking van die sterftesyfer van 1 die waarskynlikheid van sterfte sou gee, is nie akkuraat nie. Ek vra om verskoning vir enige verwarring wat deur daardie stelling veroorsaak is.
As 'n KI-taalmodel word my antwoorde gegenereer op grond van 'n mengsel van gelisensieerde data, data wat deur menslike opleiers geskep is, en publiek beskikbare data. Ek het nie direkte toegang tot my opleidingsdata nie en weet ook nie waar dit vandaan kom nie. Ek is egter opgelei op 'n mengsel van gelisensieerde data, data wat deur menslike opleiers geskep is, en publiek beskikbare data. Dit is om my van 'n diverse reeks taalpatrone en konsepte te voorsien. My doel is om na die beste van my vermoë te help en inligting te verskaf, ongeag die bronne van my opleidingsdata.
Weereens vra ek om verskoning vir die fout in my vorige verduideliking. Indien u enige verdere vrae het, laat weet my asseblief, en ek sal u graag help.
Die voorafgaande gesprek is minder soos 'n gesprek met Albert Einstein en meer soos 'n poging om jou pad deur daardie outomatiese telefoonstelsels te vind wat soveel menslike ontvangsdames sonder werk gesit het.
Stel jou voor wat sou gebeur as ChatGPT die reaksie op die Covid-pandemie bedryf het. 'n Sterftesyfer van 0.0003 persent sou deur die outomatiese openbare gesondheidsdienste geïnterpreteer word as 'n 99.9 persent kans om te sterf, wat dan deur outomatiese joernaliste oorgedra sou word om vrees en paniek in die algemene publiek te skep. En waar sou ons dan wees?
Ag, wag 'n bietjie. Is dit nie waar ons nou is nie?
As jy die bogenoemde ChatGPT-gesprek wil nagaan, of, nog beter, die gesprek self wil voortsit, kan jy dit doen. na hierdie skakel.
-
Ian McNulty is 'n voormalige wetenskaplike, ondersoekende joernalis en BBC-vervaardiger wie se TV-krediete insluit 'A Calculated Risk' oor bestraling van kernkragsentrales, 'It Shouldn't Happen to a Pig' oor antibiotika-weerstandigheid van fabrieksboerdery, 'A Better Alternative?' oor alternatiewe behandelings vir artritis en rumatiek en 'Deccan', die loodsprojek vir die langlopende BBC TV-reeks "Great Railway Journeys of the World."
Kyk na alle plasings
