In een eerdere bijdrage hebben we het gehad over het risico van het uitbesteden van het denken aan AI – en met name het belang van de prompts in educatieve context om het leren te ondersteunen in plaats van het denken te exterioriseren. Maar er zijn méér risico’s, zoals bv.
- Shortcut – maar naar wat?
De gebruiker krijgt snel een antwoord op zijn vraag. Maar wat is dat antwoord waard? Waarover gaat dat? Als bijvoorbeeld de prompt niet correct is of te algemeen, kan het resultaat ook niet goed zijn. - De prompt
Wat kan je wel of niet vragen of verwachten?
Wat was de vraag? Wat was het antwoord? En is dat een antwoord op de vraag? - Privacy
Waar komen de gegevens terecht van mijn vraag / mijn input? En waar komen de antwoorden op mijn vraag terecht?
GDPR gewijs: Kan de persoon op wie die gegevens betrekking hebben, die laten wissen?? - Hallucinatie
AI tools zijn gemaakt om tekst te voorspellen, niet om te zoeken. Zoekresultaten zijn niet (of niet altijd) betrouwbaar. AI tools zullen bv. a priori niet zeggen dat ze het niet weten. Maar ook: AI modellen maken tekst (ze voorspellen woorden vertrekkende van woorden die eerder gegeven zijn), op basis van trainingsdata; ze zoeken helemaal niet. - Confirmation bias
Als je gaat zoeken naar een onderwerp waar je weinig van weet, kan je redelijk snel iets voor plausibel aannemen dat goed geformuleerd is. - AI slop
Bijgevolg moet je het product van je AI tool kritisch bekijken. Maar omdat er makkelijk dingen kunnen geproduceerd worden, moet je ook veel tijd steken in het verifiëren. Bijgevolg zou het kunnen dat je tijd verliest in plaats van er te winnen. - Luiheid
Zo snel resultaat krijgen, dat nodigt niet uit om zelf aan de slag te gaan (of te blijven). - Probleemoplossing
AI tools geven snel resultaat. Ze voorspellen een mogelijk antwoord. Maar ze zoeken geen oplossing voor je probleem – ze kunnen dat ook niet, want ze hebben geen kennis of inzicht. Ze kunnen alleen tekst voorspellen. Anders gezegd: ze reproduceren iets wat ze aangeleerd hebben gekregen. - Adulatie
EenAI tool gaat je a priori gelijk geven. Hij zal je niet tegenspreken, tenzij je hem specifieke instructies geeft om je tegen te spreken in functie van criteria die je aangeeft.
Verder wil ik daar nog deze gevaren aan toevoegen:
- Phishing wordt dor AI gevaarlijker: het wordt beter, moeilijker te detecteren – maar vooral ook beter gecibleerd. De phishing berichten komen steeds meer terecht bij personen die gevoeliger zijn.
- Er wordt steeds meer software gemaakt door (of met behulp van) AI tools (vibe coding). Maar in die software sluipen fouten die steeds moeilijker te detecteren zijn.
- Er zijn AI tools die fouten in software vinden. Prima als die fouten gecorrigeerd worden, maar in de tussentijd kunnen kwaadwilligen van die fouten gebruik maken.
- AI agents zijn AI tools die zelfstandig dingen kunnen doen. Maar die kunnen ook fouten maken, of door kwaadwilligen gemaakt zijn.
Zie ook:
Geef een reactie