Prominente futurist en technisch directeur van Google, Ray Kurzweil, weerlegde de brief waarin werd opgeroepen tot stopzetting van AI-onderzoek, waarbij hij redenen aanhaalde waarom het voorstel onpraktisch is en de mensheid berooft van medische doorbraken en innovaties die van groot nut zijn voor de mensheid.
Internationale brief om de ontwikkeling van AI te stoppen
Een open brief ondertekend door wetenschappers en beroemdheden van over de hele wereld (gepubliceerd op FutureOfLife.org) riep op tot een volledige stopzetting van de ontwikkeling van een AI die krachtiger is dan GPT-4, de nieuwste versie gemaakt door OpenAI. Naast het stoppen van de verdere ontwikkeling van kunstmatige intelligentie, riepen ze ook op tot beveiligingsprotocollen onder toezicht van onafhankelijke externe experts.
Enkele observaties van de auteurs van de open brief:
- AI vormt een aanzienlijk risico
- De ontwikkeling van AI moet pas doorgaan als de nuttige toepassingen van de technologie zijn geïdentificeerd en onderbouwd
- AI mag alleen doorgaan als “wij” (duizenden ondertekenaars) er zeker van zijn dat de risico’s van AI onder controle zijn.
- AI-ontwikkelaars worden aangemoedigd om met beleidsmakers samen te werken om AI-governancekaders te ontwikkelen die regelgevende instanties omvatten.
- Het ontwikkelen van watermerktechnologieën om door AI gegenereerde inhoud te helpen identificeren en de verspreiding van de technologie te beheersen.
- Een systeem voor het toekennen van aansprakelijkheid voor door AI gegenereerde schade
- Instellingen bouwen om verstoringen veroorzaakt door AI-technologie aan te pakken
De brief lijkt gebaseerd te zijn op het feit dat AI-technologie gecentraliseerd is en kan worden tegengehouden door meerdere organisaties die de technologie beheersen. Maar AI is niet alleen in handen van overheden, onderzoeksinstituten en bedrijven. Momenteel is kunstmatige intelligentie een open source en gedecentraliseerde technologie die door duizenden individuen in een wereldwijde samenwerking is ontwikkeld.
Ray Kurzweil: futurist, auteur en technisch directeur bij Google
Ray Kurzweil ontwikkelt sinds de jaren zestig software en machines gericht op kunstmatige intelligentie, heeft veel populaire boeken over dit onderwerp geschreven en staat bekend om zijn voorspellingen over de toekomst die meestal juist zijn. Van zijn 147 voorspellingen over het leven in 2009 slechts drie voorspellingen, in totaal 2%, waren verkeerd. Een van zijn voorspellingen uit de jaren negentig is dat veel fysieke media, zoals boeken, aan populariteit zullen inboeten wanneer ze worden gedigitaliseerd. In de jaren 90, toen computers groot en log waren, voorspelde hij dat computers in 2009 klein genoeg zouden zijn om gedragen te worden, wat bleek te kloppen (Hoe gaat het met mijn voorspellingen – 2010? Pdf). De nieuwste voorspellingen van Ray Kurzweil richten zich op alles wat kunstmatige intelligentie zal brengen, met name medische en wetenschappelijke doorbraken. Kurzweil focust ook op de ethiek van AI. in 2017 hij was een van de deelnemers (samen met OpenAI-CEO Sam Altman) die een open brief opstelde die bekend staat als de Asilomar AI-principes, die ook werden gepubliceerd op de Future of Life-website, richtlijnen voor de ontwikkeling van veilige en ethische AI-technologieën.
Een van de principes die hij hielp creëren:
- “Het doel van AI-onderzoek moet niet gerichte intelligentie zijn, maar bruikbare intelligentie.
- Investeringen in kunstmatige intelligentie moeten gepaard gaan met financiering voor onderzoek om het nuttige gebruik ervan te waarborgen
- AI-onderzoekers en beleidsmakers moeten constructieve en gezonde uitwisselingen aangaan.
- Geavanceerde AI zou een fundamentele verandering in de geschiedenis van het leven op aarde kunnen betekenen en moet met de juiste zorg en middelen worden gepland en beheerd.
- Superintelligentie mag alleen worden ontwikkeld ten dienste van breed gedeelde ethische idealen en ten voordele van de hele mensheid, niet van een enkele staat of organisatie.
Het antwoord van Kurzweil op de open brief waarin hij vraagt om een pauze in de ontwikkeling van kunstmatige intelligentie komt voort uit een leven lang innovatie in technologie, gezien alle gunstige voordelen die het kan opleveren voor de mensheid en de natuurlijke wereld.
Zijn antwoord concentreert zich op drie hoofdpunten:
- De roep om een pauze is te vaag om praktisch te zijn
- Alle naties moeten een wapenstilstand overeenkomen, anders zullen de doelstellingen vanaf het begin worden verslagen
- Het stoppen van de ontwikkeling doet voordelen teniet, zoals het vinden van geneeswijzen voor ziekten.
Te vaag om praktisch te zijn
Zijn eerste opmerking over de brief is dat hij te vaag is omdat hij een AI vertraagt die krachtiger is dan GPT-4, die ervan uitgaat dat GPT-4 de enige soort AI is.
Kurzweil schreef:
“Wat betreft de open brief om onderzoek naar AI ‘krachtiger dan GPT-4’ te ‘pauzeren’, dat criterium is te vaag om praktisch te zijn.”
Naties zullen weigeren te pauzeren
Zijn tweede punt is dat de eisen die in de brief worden gesteld alleen bruikbaar kunnen zijn als alle wetenschappers ter wereld vrijwillig meewerken. Elke natie die weigert mee te doen, zal een voordeel hebben, waarschijnlijk.
Hij schrijft:
“En het voorstel heeft te maken met een ernstig coördinatieprobleem: degenen die instemmen met een pauze kunnen ver achterblijven bij bedrijven of landen die het er niet mee eens zijn.” Dit punt maakt duidelijk dat het doel van een volledige pauze niet veelbelovend is, omdat naties de superioriteit niet zullen afstaan, en AI gedemocratiseerd en open source is, eigendom van mensen over de hele wereld.
Kunstmatige intelligentie biedt aanzienlijke voordelen voor kunstmatige intelligentie
Er zijn redactionele artikelen geweest die AI hebben afgedaan als zeer weinig voordeel voor de samenleving, met het argument dat het verhogen van de productiviteit van werknemers niet voldoende is om de risico’s te rechtvaardigen waar ze bang voor zijn. Het laatste punt van Kurzweil is dat de open brief om de ontwikkeling van AI te stoppen volledig voorbij gaat aan alles wat AI kan doen.
Hij legt uit:
“Vooruitgang in kunstmatige intelligentie is van cruciaal belang voor belangrijke gebieden zoals geneeskunde en gezondheid, onderwijs, het streven naar hernieuwbare energiebronnen ter vervanging van fossiele brandstoffen en vele andere gebieden. …er is meer nuance nodig als we de enorme gezondheids- en productiviteitsvoordelen van AI willen benutten en tegelijkertijd de echte risico’s willen vermijden.
Gevaren, angst voor het onbekende en voordelen voor de mensheid
Kurzweil betoogt hoe kunstmatige intelligentie de samenleving ten goede kan komen. Zijn punt dat er geen manier is om de AI daadwerkelijk te vertragen, klopt. Zijn uitleg over AI benadrukt de enorme voordelen van AI voor de mensheid. Is het mogelijk dat OpenAI’s implementatie van AI als een chatbot AI ondermijnt en de voordelen ervan voor de mensheid verdoezelt, terwijl mensen bang worden gemaakt die niet begrijpen hoe generatieve AI werkt?
Onderwerpafbeelding door Shutterstock/Iurii Motov