Når KI er en drittsekk

Hør podcasten her:

Det pågår mye forskning på dette feltet ved Universitetet i Bergen (UiB).

I den første studien av denne typen noensinne, bidro Samia Touileb til å undersøke skadeligheten og toksisiteten til skandinaviske ferdigtrente språkmodeller.

Studien viste at noen av de populære norske, danske og svenske språkmodellene genererer skadelige og kjønnsorienterte stereotypier. Touileb har vært vokal om de potensielle negative resultatene av å bruke slike modeller i virkelige situasjoner.

• ‍Les mer om studien på forskning.no

KI lærer å kjenne igjen objekter

I samarbeid med Faktisk.no utviklet UiB-stipendiat Sohail Ahmed Khan to nye AI-prototyper:

En deep learning-basert militær kjøretøyklassifisering web-prototype som kan forutsi merke/modell av et militærkjøretøy som finnes i et bilde, og en språkdeteksjon, nettjeneste for transkripsjon og oversettelse basert på OpenAIs Whisper-modell.

• ‍Les mer om prosjektet i Journalisten

Bilder og maskiner

Et innholdsfiltreringsverktøy på sosiale medier identifiserer et bilde av et barn uten skjorte ved vannkanten. Skal det behandles som barnepornografi og fjernes, eller er det et ufarlig ferieminne som en bestemor deler etter en tur til Gran Canaria?

De etiske utfordringene fremhever de hensynene maskiner står overfor når oppgavene automatiseres.

UiB-professor Marija Slavkovik understreker at når maskiner blir våre moralske stedfortreder, har vi et ansvar for å utstyre dem med verktøy for å håndtere etiske utfordringer.

I en artikkel publisert i Journal of Artificial Intelligence Research  demonstrerte Slavkovik sammen med kolleger fra Kina og Luxembourg hvordan et slikt verktøy, en kunstig "moralsk rådgiver", kan programmeres.

Om podcasten

UiB Popviten er en populærvitenskapelig podcast fra Universitetet i Bergen med ny gjest i hver episode. Podcasten ledes av Torill Sommerfelt Ervik.

Fagstoff

Du kan lese mer i Samia Touileb & Debora Nozza sin fagartikkel:

• ‍Measuring Harmful Representations in Scandinavian Language Models