Mensen zijn vaak effectiever als we onszelf een beetje wegcijferen. “Ik denk”, “Misschien” of “Misschien mis ik iets, maar…” zijn prima manieren om onze beweringen een kans te geven om overwogen te worden.
De LED-rekenmachine op zonne-energie die we op school gebruikten, deed zoiets niet. 6 x 7 is 42, geen mitsen en maren.
Een deel van de magie van Google Zoeken was dat het niet alleen eigenwijs was, het was vaak ook correct. Door de combinatie van vertrouwen en bruikbaarheid voelde het als een wonder.
Natuurlijk was Google nooit helemaal correct. Het vond zelden elke keer precies de juiste pagina. Dat werd aan ons overgelaten. Maar de aura van almacht bleef bestaan - sterker nog, toen Google faalde, moesten we kwade black-hat SEO-hackers de schuld geven, niet een onvolmaakt algoritme en een hebzuchtige monopolist.
En nu verschijnt ChatGPT met volledig gearticuleerde beweringen over alles wat we het vragen.
Het verbaast me niet dat een van de grootste kritieken die we horen, zelfs van inzichtelijke experts, is dat het te zelfverzekerd is. Dat het zonder voorbehoud aankondigt dat biryani deel uitmaakt van een traditionele Zuid-Indiase tiffin, maar dat is het niet.
Zou het een verschil maken als elk antwoord zou beginnen met: “Ik ben slechts een bèta van een programma dat eigenlijk niets begrijpt, maar het menselijk brein komt tot de conclusie dat ik dat wel doe, dus neem dit met een korreltje zout…”
Sterker nog, dat is onze taak.
Wanneer een eenvoudig, handig stukje gegevens op uw computerscherm verschijnt, neem het dan met een korreltje zout.
Niet alle e-mail is spam.
Niet alle aanbiedingen zijn oplichting.
En niet alle GPT3-antwoorden zijn onjuist.
Maar het kan geen kwaad om je eigen voorwoord in te voegen voordat je het als waar accepteert.
Overmoed is niet het probleem van de AI. Er zijn veel culturele en economische verschuivingen die het zal veroorzaken. Onze goedgelovigheid is een van de dingen die we in gedachten moeten houden.
Geschreven door: Seth Godin
Vertaald vanuit blog: https://seths.blog/2023/01/overconfidence-and-ai/