Maar waarom de fouten “hallucinaties” noemen? Waarom geen algoritmische troep? Of glitches? Wel, hallucinatie verwijst naar het mysterieuze vermogen van het menselijk brein om verschijnselen waar te nemen die er niet zijn, althans niet in conventionele, materialistische termen.
Dit zijn selecties van een prachtig stuk die iedereen zou moeten lezen. Zie url onderaan voor de gehele artikel
Door zich een woord toe te eigenen dat vaak wordt gebruikt in de psychologie, psychedelica en diverse vormen van mystiek, voeden de voorvechters van AI, terwijl ze de feilbaarheid van hun machines erkennen, tegelijkertijd de meest gekoesterde mythologie van de sector: dat ze, door deze grote taalmodellen te bouwen en ze te trainen op alles wat wij mensen hebben geschreven, gezegd en visueel weergegeven, bezig zijn een levende intelligentie te baren die op het punt staat een evolutionaire sprong voor onze soort te maken. Hoe zouden bots als Bing en Bard anders kunnen trippen in de ether?
De truc is natuurlijk dat Silicon Valley diefstal routinematig “ontwrichting” noemt – en er maar al te vaak mee wegkomt. We kennen deze truc: de aanval inzetten op wetteloos terrein; beweren dat de oude regels niet van toepassing zijn op je nieuwe technologie; schreeuwen dat regelgeving alleen China zal helpen – allemaal terwijl je de feiten op een rijtje zet. Tegen de tijd dat we allemaal over de nieuwigheid van dit nieuwe speelgoed heen zijn en de sociale, politieke en economische wrakstukken beginnen te inventariseren, is de technologie al zo alomtegenwoordig dat de rechtbanken en beleidsmakers hun handen in de lucht steken.
We zagen het met het scannen van boeken en kunst door Google. Met Musk’s ruimtekolonisatie. Met Uber’s aanval op de taxi industrie. Met Airbnb’s aanval op de huurmarkt. Met Facebooks promiscuïteit met onze gegevens. Vraag niet om toestemming, zeggen de onderbrekers, maar vraag om vergeving. (En smeer het vragen met royale campagne bijdragen.)
In The Age of Surveillance Capitalism beschrijft Shoshana Zuboff nauwgezet hoe de Street View-kaarten van Google de privacynormen met voeten traden door auto’s met camera’s onze openbare wegen en de buitenkant van onze huizen te laten fotograferen. Tegen de tijd dat de rechtszaken ter verdediging van de privacyrechten begonnen, was Street View al zo alomtegenwoordig op onze apparaten (en zo cool, en zo handig …) dat buiten Duitsland maar weinig rechtbanken bereid waren om in te grijpen.
Nu gebeurt hetzelfde als met de buitenkant van onze huizen met onze woorden, onze beelden, onze liedjes, ons hele digitale leven. Alles wordt momenteel in beslag genomen en gebruikt om de machines te trainen om denken en creativiteit te simuleren. Deze bedrijven moeten weten dat ze aan diefstal doen, of op zijn minst dat er een sterke zaak van gemaakt kan worden. Ze hopen gewoon dat het oude draaiboek nog een keer werkt – dat de schaal van de roof al zo groot is en zich zo snel ontvouwt dat rechtbanken en beleidsmakers opnieuw hun handen in de lucht zullen steken bij de veronderstelde onvermijdelijkheid van dit alles.
Het is ook waarom hun hallucinaties over alle prachtige dingen die AI voor de mensheid zal doen zo belangrijk zijn. Want die verheven beweringen verhullen deze massale diefstal als een geschenk, terwijl ze tegelijkertijd de onmiskenbare gevaren van AI rationaliseren.
Is dit alles overdreven dramatisch? Een stoffige en reflexieve weerstand tegen spannende innovatie? Waarom het ergste verwachten? Altman stelt ons gerust: “Niemand wil de wereld vernietigen.” Misschien niet. Maar zoals de steeds erger wordende klimaat- en uitstervingscrises ons elke dag laten zien, lijken veel machtige mensen en instellingen het prima te vinden te weten dat ze helpen de stabiliteit van de levensondersteunende systemen van de wereld te vernietigen, zolang ze recordwinsten kunnen blijven maken, waarvan ze denken dat die hen en hun families zullen beschermen tegen de ergste gevolgen. Altman is, zoals veel schepsels van Silicon Valley, zelf een prepper: in 2016 pochte hij: “Ik heb geweren, goud, kaliumjodide, antibiotica, batterijen, water, gasmaskers van de Israëlische defensiemacht en een groot stuk land in Big Sur waar ik naartoe kan vliegen.”
Ik ben er vrij zeker van dat die feiten veel meer zeggen over wat Altman werkelijk gelooft over de toekomst die hij helpt te ontketenen dan welke bloemrijke hallucinaties hij verkiest te delen in persinterviews.
Lees een uitgebreidere versie op: https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein