GenAI: verantwoord gebruik in onderzoek

Wat is het?

Generatieve Artificiële Intelligentie (GenAI) is een deelgebied van Artificiële Intelligentie (AI) dat zich richt op het creëren van inhoud (bv. tekst, afbeeldingen, geluiden, 3D-modellen, programmeercode, ...).

Het maakt ook een breed scala aan (andere) toepassingen beschikbaar, waarvan vele een impact hebben op wetenschappelijk onderzoek. Het kan onder andere helpen om je gedachten te ordenen, feedback te geven op je werk, te helpen met coderen, onderzoeksliteratuur samen te vatten, bestaande tekst te verbeteren of te vertalen, enz.

De Large Language Models (LLM) of grote taalmodellen die achter GenAI zitten gebruiken een geavanceerd leeralgoritme (neuraal netwerk) om grote hoeveelheden informatie en gegevens die vanop het web “ge-scraped” of verzameld werden te absorberen. Op die manier leert het model hoe taal eruit ziet en werkt. Vervolgens genereert het een menselijk-klinkende tekstuele reactie op de vraag of 'prompt' van een gebruiker, vergelijkbaar met die waarop het model is getraind.

Met de lancering van ChatGPT in november 2022, en daarna die van verschillende vergelijkbare modellen, is GenAI bekend bij een massapubliek en heeft het nu miljoenen gebruikers.

GenAI tools zijn onderdeel geworden van de werkstroom van veel professionelen en dat zal ook in onze toekomstige carrières zo blijven, eveneens in onderzoek. Het is essentieel om een leidraad op te stellen om ervoor te zorgen dat deze modellen op een verantwoorde manier worden gebruikt.

Bereik van deze tip

Door de snelle technologische evolutie van deze modellen is een leidraad niet vanzelfsprekend. Bovendien zijn de toepassingen, zowel per model (ChatGPT, DALL-E, Midjourney, Bing, BARD, Perplexity, ...) als het gebruik van deze modellen (over verschillende disciplines, verschillende doelen en dus verschillende uitkomsten), te wijdverspreid om alle dynamieken te kunnen bevatten. Het vereist dat onze instelling en al haar onderzoekers voortdurend aandacht besteden aan nieuwe ontwikkelingen.

Deze onderzoektip richt zich alleen op de impact van GenAI op (aspecten van) onderzoek. Daarnaast vormt dit een eerste vorm van begeleiding (januari 2024), wat ervoor zorgt dat de reikwijdte van deze tip beperkt is en lang niet alle vragen waar onderzoekers mee zitten beantwoordt. Voortschrijdend inzicht en de impact van nieuwe ontwikkelingen zullen richting geven aan volgende versies van deze tip. Controleer deze dus regelmatig.

Voor een overzicht van wat GenAI en de beschikbare tools wel en niet kunnen, inclusief de impact op het onderwijs, zie Onderwijstip Generatieve AI in het UGent-onderwijs: impact en aanpak en het studentenportaal Generatieve AI in het UGent-onderwijs.

Algemene principes

· Verken de vele mogelijkheden EN beperkingen van GenAI-toepassingen.

· Blijf kritisch ten opzichte van elke toepassing, zowel wat betreft technische mogelijkheden, ethische implicaties, ...

· Blijf de kennis over hoe deze modellen/toepassingen werken verbreden en verdiepen.

· Leer ze verantwoord te gebruiken.

· Evalueer en monitor de kwaliteit van de gegenereerde resultaten.

· Doe dit alles onafhankelijk van onderzoeksveld of -discipline, carrièrefase, status, ...

Om dit te doen moeten alle acties geleid worden door de volgende principes:

· Transparantie: onderzoekers zijn open over het gebruik van GenAI, ongeacht hoe de output wordt gebruikt, bijvoorbeeld rechtstreeks of als inspiratiebron. Ze delen de details, net zoals we dat van wetenschappers verwachten met andere software, toepassingen en methodologieën.

· Verantwoording: onderzoekers zijn zelf verantwoordelijk voor elk gebruik van GenAI en de (kwaliteit van de) gegenereerde output, en kunnen aan deze verantwoordelijkheid gehouden worden.

· Zorgvuldigheid: onderzoekers nemen de nodige voorzorgsmaatregelen om GenAI-tools correct te gebruiken en de gegenereerde resultaten te controleren. Dit vergt een goed begrip van de (technische) mogelijkheden van de toepassing en de (ethische) implicaties van het gebruik ervan.

· Integriteit: GenAI wordt niet gebruikt om op enige wijze inbreuk te maken op de onderzoeksintegriteit. Alle voorzorgsmaatregelen worden genomen om onopzettelijke inbreuken te voorkomen.

Wees voorzichtig!

Voer geen persoonlijke gegevens, privacygevoelige informatie, vertrouwelijke informatie of gegevens die vergezeld gaan van een contract in GenAI-toepassingen in (bijvoorbeeld wanneer je een recensie schrijft of onderzoeksvoorstellen indient, werkt aan nieuwe onderzoeksideeën, GenAI-toepassingen gebruikt om tekst te vertalen of te herschrijven, …).

Door dergelijke gegevens in het systeem in te voeren, worden ze onderdeel van de algemeen beschikbare kennis die wordt geraadpleegd door AI en geautomatiseerde systemen over de hele wereld. Dit kan leiden tot schendingen van wetten (AVG of GDPR, IP, ...), contracten (NDA, ...), en/of morele rechten, met ernstige gevolgen (bv. je IP niet meer kunnen beschermen, bedrijfsboetes, ...). Controleer altijd of beschikt over de nodige toestemming of licentie om data in te voeren. Als je twijfelt, kun je dit nagaan bij de aanbieder van de informatie of bij de ondersteunende diensten binnen de instelling.

Lees voor meer informatie over AI en AVG (GDPR) de Onderzoektip: AVG: Waar moet ik aan denken bij het ontwikkelen of gebruiken van AI?