Loop niet in de val van de chatbot

In dit boek waarschuwt Geertrui Mieke De Ketelaere voor de gevaren van de hedendaagse chatbots, de AI machines die ons soms zo vriendelijk van dienst kunnen zijn, ook inzake heel persoonlijke onderwerpen. Die chatbots blijken onvoldoende aan ethisch toezicht onderworpen te zijn. De ingebouwde algoritmes hebben niet altijd in de eerste plaats het belang van de gebruiker op het oog.

In dit boek maak je kennis met het Elisa effect, de neiging van mensen om empathie, begrip of emoties te projecteren op machines, die enkel doen alsof. We zijn vaak niet op de hoogte van de achterliggende georkestreerde mechanismes die aan de basis liggen van de chatbots. Sycofantie, het naar de mond praten van de gebruiker, is iets wat vast ingebakken zit in de algoritmes.

Ik heb een sterk zondebesef wat betreft AI. Daarmee bedoel ik dat ik de kostbaarheden van deze wereld niet graag verbras voor eigen plezier. Ik gebruik AI vooral op het werk om wat sneller samengebalde informatie te vinden, ook wel om snel verifieerbare samenvattingen te maken over markt gerelateerde onderwerpen. In mijn vrije tijd vind ik het wel eens nuttig om de herkomst van een afbeelding, een schilderij of een muziekstuk te achterhalen. Maar ik gebruik geen AI voor onzinnige grappen of om de slimmerik uit te hangen op een of ander social event. Met chatbots was ik nog niet vertrouwd.

Met dit boek kom je wel tot het bewustzijn dat het menselijk brein een spons is. We moeten dus goed nadenken over de informatie en de algoritmes waar we ons aan blootstellen. Alleen al daarom is het de moeite waard om dit boek goed te lezen. Laten we oordeelkundig omspringen met wat eigenlijk hulpmiddelen zouden moeten zijn.

Ik verwijs ook naar mijn blog Rerum Artificialum Intelligentium.