������

Nämä ohjeet ovat tiivistelmä Euroopan tutkimusalueen foorumin (ERA Forum) laatimista “” -ohjeista; foorumi koostuu Euroopan maista sekä tutkimus- ja innovaatiotoiminnan sidosryhmistä. Living guidelines -ohjeistus perustuu  (ALLEA). Lisäksi ohjeistamme siitä, miten Aalto AI Assistantia voi hyödyntää joidenkin riskien lieventämiseksi. Tutustu myös parhaisiin käytäntöihin tekoälytyökalujen hyödyntämiseksi tutkimuksessa.

Keskeiset periaatteet

Generatiivisen tekoälyn vastuullisen käytön keskeiset periaatteet tutkimusprosessissa ovat:

• Luotettavuus tutkimuksen laadun varmistamisessa. Tämä on huomioitava tutkimuksen suunnittelussa, tutkimusmenetelmissä, analyyseissä ja resurssien käytössä. Tekoälyn tuottama tieto on tarkistettava ja tutkimuksen toistettavuus on varmistettava. Tutkijan on myös oltava tietoinen mahdollisista yhdenvertaisuus- ja syrjimättömyyskysymyksistä, joita datan vinoumat ja epätarkkuudet voivat aiheuttaa.
• Rehellisyys tutkimuksen kehittämisessä, toteuttamisessa, arvioinnissa, raportoinnissa ja viestinnässä läpinäkyvästi, oikeudenmukaisesti, perusteellisesti ja puolueettomasti. Jos tekoälyä on käytetty, siitä on kerrottava avoimesti.
• Kunnioitus kollegoita, tutkimukseen osallistuvia ja tutkimuskohteita, yhteiskuntaa, ekosysteemejä, kulttuuriperintöä ja ympäristöä kohtaan. Generatiivisen tekoälyn vastuullisessa käytössä on huomioitava teknologian rajoitteet, sen ympäristövaikutukset sekä yhteiskunnalliset vaikutukset (vääristymät, moninaisuus, syrjimättömyys, oikeudenmukaisuus ja haittojen ehkäisy). Tähän kuuluu tietojen asianmukainen hallinta sekä yksityisyyden, luottamuksellisuuden ja immateriaalioikeuksien kunnioittaminen sekä asianmukainen viittaaminen käytettyihin lähteisiin.
• Vastuunkanto tutkimuksesta ideasta julkaisuun saakka, sen johtamisesta ja organisoinnista, koulutuksesta, ohjauksesta ja mentoroinnista sekä laajemmista yhteiskunnallisista vaikutuksista. Tämä sisältää vastuun kaikesta tuotetusta tutkimusdatasta ja tuloksista. Vastuuta ei voi siirtää tekoälylle.

Suositukset tutkijoille

1. Kanna lopullinen vastuu tieteellisestä tuotoksesta

Jotta generatiivista tekoälyä käytettäisiin vastuullisesti, tutkijoiden tulee kantaa lopullinen vastuu tieteellisestä tuotoksesta.

• Tutkija on vastuussa tuottamansa sisällön eheydestä, vaikka sisältö olisi tuotettu tekoälytyökaluilla tai niiden tuella.
• Tekoälyjärjestelmät eivät ole tieteellisen julkaisun kirjoittajia eivätkä yhteiskirjoittajia. Kirjoittajuus tai tekijyys merkitsee toimijuutta ja vastuuta, joten se kuuluu ihmis­elle.
• Tutkija suhtautuu kriittisesti generatiivisen tekoälyn tuottamaan sisältöön ja tiedostaa työkalujen rajoitteet, kuten hallusinaatiot, epätarkkuudet ja vinoumat.

Yleisimmät vinoumien tyypit:

• Koulutusdatan vinouma: Generatiivisten mallien koulutuksessa käytettyyn dataan sisältyneet vinoumat voivat johtaa vääristyneisiin vastauksiin, jos koulutusdatassa on ollut epätarkkuuksia tai rakenteellisia vinoumia.
• Kehotteen (“promptin”) vinouma: Mallit voivat sovittaa vastauksiaan käyttäjän oletettuihin uskomuksiin tai mieltymyksiin (ns. myötäilevä käytös), mikä voi johtaa näennäisen miellyttäviin mutta vinoutuneisiin, epätosiin tuotoksiin.

Hallusinaatiot ja epätarkkuudet voivat ilmetä esimerkiksi seuraavasti:

• Keksityt tuotokset: Generatiivisen mallin antamat tiedot ja tulokset vaikuttavat oikeilta, mutta eivät ole sitä.
• Keksityt lähdeviitteet ja virheelliset tiivistelmät: Generatiiviset mallit voivat tuottaa uskottavan oloisia mutta virheellisiä lähdeviitteitä, mikä voi johtaa harhaan, jos niihin luotetaan tutkimuksessa tai verifioinnissa. Vaikka lähdeviitteet olisivat muodollisesti oikein (artikkeli on olemassa, otsikko on oikea), tekoälyn tuottama tiivistelmä voi olla virheellinen. Siksi tutkijoiden on tarkistettava kaikki lähdeviitteet, niiden sisältö ja tiivistelmät.
• Väärentäminen: Tutkimusmateriaalien, laitteiden, kuvien tai prosessien manipulointi tai datan/tulosten muuttaminen, pois jättäminen tai peittely ilman perusteltua syytä. Hallusinaatioiden seurauksena generatiivinen tekoäly voi johtaa vääriin johtopäätöksiin.
• Tulosten tulkittavuus: Generatiiviset mallit toimivat “mustina laatikkoina”, jolloin yksittäisten vastausten muodostuminen on vaikeasti ymmärrettävissä. Tämä läpinäkymättömyys korostaa ristiinvalidoinnin tärkeyttä, erityisesti automatisoidussa data-analyysissä, jossa mallin antamat vastaukset voivat vaikuttaa merkittävästi johtopäätöksiin.

2. Läpinäkyvyys

Käytä generatiivista tekoälyä läpinäkyvästi:

• Läpinäkyvyyden varmistamiseksi tulee tutkijoiden kuvata, mitä ja miten generatiivisia tekoälytyökaluja on käytetty tutkimusprosessissa. Mikäli generatiivinen tekoäly vaikuttaa olennaisesti tutkimustuloksiin, tutkijat ilmoittavat sen käytöstä oman alansa standardien tai tieteellisen lehden ohjeiden mukaisesti menetelmäosassa (tai vastaavassa), arvioiden vastuullisesti tekoälyn panoksen laajuutta tutkimusprosessissa. Läpinäkyvyys koskee myös tekoälyn käyttöä huonojen käytäntöjen havaitsemiseen tai seulontaan (esim. hallusinaatioiden tai plagioinnin tunnistaminen), ihmisen valvomana.
• Tutkijat tuovat esiin käytettyjen generatiivisten työkalujen rajoitteet, mukaan lukien tuotetun sisällön mahdolliset vinoumat, sekä mahdolliset keinot lieventää näitä rajoitteita. Tutkijat ottavat huomioon generatiivisten työkalujen stokastisen eli satunnaisen toiminnan: niillä on taipumus antaa samasta syötteestä erilainen vastaus. Tutkijat tavoittelevat tulosten ja johtopäätösten toistettavuutta ja pysyvyyttä.

3. Huolehdi yksityisyydensuojasta, luottamuksellisuudesta ja immateriaalioikeuksista

Aalto AI Assistant verrattuna ulkoisiin tekoälytyökaluihin: 

• Tutkijan tulee ymmärtää yksityisyyteen, luottamuksellisuuteen ja immateriaalioikeuksiin liittyvät tekniset, eettiset ja tietoturvakysymykset. Aalto-yliopiston tutkijat käyttävät sen ohjeistuksen mukaisesti. Henkilötietojen tai luottamuksellisen datan käsittelyssä valitaan Aalto AI Assistantin Private Chat -vaihtoehto. Private Chat mahdollistaa yksityisen keskustelun, joka varmistaa viestinnän luottamuksellisuuden. 
• Koska Aalto AI Assistant on Aalto-yliopiston hallinnoima työkalu ja toimii Aallon palvelimilla, dataa, jota ei voisi käyttää ulkoisissa työkaluissa, voidaan käsitellä Aalto AI Assistantissa; katso ohjeistus.
• Tutkijat tiedostavat, että ulkoiset tekoälytyökalut saattavat käyttää työkaluun syötettyä materiaalia (tekstiä, dataa, kehotteita, kuvia jne.) muihin tarkoituksiin, kuten tekoälymallien kouluttamiseen. Siksi tutkijoiden on suojattava julkaisematon tai arkaluonteinen työ (kuten oma tai muiden julkaisematon tutkimustuotos): sitä ei saa ladata ulkoiseen tekoälyjärjestelmään, ellei ole varmuutta siitä, ettei dataa uudelleenkäytetä tulevien kielimallien koulutukseen tai muilla tavoin. 

Lue lisää tekoälystä ja tekijänoikeuksista

4. Generatiivisen tekoälyn tuottama tuotos voi olla erityisen arkaluonteista immateriaalioikeuksien ja henkilötietojen suojan näkökulmasta

• Tutkija saattaa syyllistyä plagiointiin, kun hän käyttää generatiivisen tekoälyn tuotoksia (tekstiä, koodia, kuvia jne). Suuren kielimallin tuotos voi perustua toisten tutkijoiden tuloksiin. Tutkijan on siksi tarkistettava, löytyykö tuotos muualta jonkun toisen julkaisemana. Tutkijat kunnioittavat muiden tekijyyttä ja viittaavat asianmukaisesti käyttämiinsä lähteisiin.  

Lue lisää tekoälystä ja tekijänoikeuksista

• Generatiivisen tekoälyn tuotos voi sisältää henkilötietoja. Tällaisessa tapauksessa tutkijat ovat vastuussa siitä, että henkilötietoja käsitellään vastuullisesti ja asianmukaisesti, ja noudatetaan EU:n tietosuojasääntöjä.

5. Pidä yllä osaamistasi generatiivisten tekoälytyökalujen oikeasta käytöstä, jotta maksimoit sen tuomat hyödyt

• Generatiiviset työkalut kehittyvät nopeasti ja uusia käyttötapoja keksitään jatkuvasti. Tutkijoiden tulee pitää itsensä ajan tasalla hyvistä käytännöistä ja jakaa niitä kollegoille ja muille sidosryhmille.
• Tutkijat pyrkivät minimoimaan generatiivisen tekoälyn ympäristövaikutukset arvioimalla, onko tekoäly tarpeen ja mikä työkalu soveltuu parhaiten tehtävään, sekä käyttämällä tehokkaimpia promptaustekniikoita.

6. Vältä generatiivisten tekoälytyökalujen merkittävää käyttöä arkaluonteisissa tehtävissä

Vältä generatiivisen tekoälyn merkittävää käyttöä arkaluonteisissa tehtävissä, jotka voivat vaikuttaa muihin tutkijoihin tai organisaatioihin.

• Vertaisarvioinnissa ja tutkimus-/rahoitushakemusten arvioinnissa tekoälyn käyttö voi aiheuttaa epäoikeudenmukaista kohtelua, koska työkaluissa on hallusinaatioiden ja vinoumien kaltaisia rajoitteita.
• Suojele kollegoiden alkuperäistä julkaisematonta työtä mahdolliselta paljastumiselta tai päätymiseltä tekoälymallin koulutusdataan (kuten kohdassa 3 kuvataan). Älä siis syötä kollegan työtä sellaiseen tekoälyjärjestelmään, joka hyödyntää syötteitä jatkossa.

Tutkimuseettinen neuvottelukunta TENK on julkaissut ohjeen tekoälystä ja hyvästä tieteellisestä käytännöstä: