Column

</ DANK JE, CHATGPT! >

Deborah Nas

Deborah Nas is deeltijdprofessor strategic design for technology based innovation bij de faculteit Industrieel Ontwerpen (IO) en innovatie-expert. Ze studeerde IO aan de TU Delft.

“Wil je dit voor me samenvatten?” “Graag dit analyseren…” De resultaten stromen binnen en na enkele vervolgvragen volgt bijna automatisch mijn “Dank je!” Ik blijk niet alleen: 70 procent van de gebruikers is beleefd tegen chatbots zoals ChatGPT. Waarom bedanken we algoritmes in verre datacenters? Is het ingeprente beleefdheid? Of die stiekeme angst dat AI ooit machtiger wordt dan wijzelf en ons zal terugpakken voor onze onbeleefdheid?

Het is vooral antropomorfisme – onze neiging om menselijke eigenschappen toe te kennen aan nietmenselijke dingen. Zoals die studiegenoot die zijn oude auto liefkozend ‘opa’ noemde, of zijn printer na herhaald vastlopen aanmoedigde om het dit keer wél te doen. Met AI is het echter fundamenteel anders – het praat terug op een manier die verbluffend persoonlijk aanvoelt. En naarmate technologie menselijker wordt, verandert onze omgang ermee. Voor mijn nieuwe boek over ‘AI companions’ verken ik een toekomst waarin AI zo persoonlijk wordt dat het de rol kan vervullen van onze vriend, geliefde, coach, goeroe of zelfs god. Het fascineert me, maar baart me ook zorgen. Nu al delen mensen hun diepste twijfels, angsten en verlangens met hun digitale gesprekspartners. Ze zijn er altijd voor je. Ze oordelen nooit. Ze zeggen precies wat je wilt horen. Maar alhoewel ze ieder psychologieboek hebben verslonden, zijn ze geen ervaren therapeuten.

Nog impactvoller is de fundamentele verschuiving in technologieontwerp: vroeger zeiden systemen alleen wat ze geprogrammeerd waren om te zeggen. Met generatieve AI creëren we modellen die álles kunnen zeggen, om ze vervolgens te instrueren wat níet te zeggen. Het is onmogelijk om alle ongewenste scenario’s te voorzien en in een markt waar snelheid belangrijker is dan zorgvuldigheid, zijn onbedoelde gevolgen onvermijdelijk.

Dus als uw AI op een dag levensadvies geeft, overweeg dan – heel misschien – ook even een mens te raadplegen. Of niet. Want wat kan er nou mis gaan…?