Lansering av Centre for AI Security and Safety

Velkommen til åpningen av Simula Research Laboratory sitt nye forskningssenter, Centre for AI Security and Safety, som skal bidra til sikker og trygg bruk av kunstig intelligens i Norge.

Om arrangementet:

Kunstig intelligens er i ferd med å bli en bærende del av samfunnets digitale infrastruktur – i helsevesenet, forsvarssektoren og i offentlig forvaltning for øvrig. Men økt bruk av KI øker også risikoen for misbruk og utilsiktede konsekvenser. Hvem skal passe på at utviklingen går riktig vei?

Simula Research Laboratory og Digital Norway inviterer til den offisielle åpningen av Centre for AI Security and Safety, et uavhengig forskningssenter som skal bidra til sikker og trygg bruk av kunstig intelligens i Norge.

Arrangementet finner sted hos Simula onsdag 29. april 2026, kl. 15:00–16:30. Dørene åpner kl. 14:30.

Program

Åpning ved Digitaliserings- og forvaltningsminister Karianne Tung
Om internasjonale sikkerhetsinstitutt for KI
Kat Lyness, Head of International Policy ved UK AI Security Institute
Overordnet plan for senteret
Lillian Røstad, direktør ved Simula
Om KI-trygghet
Most safety work happens where models are built. We work where they are used.
Professor Michael Riegler, leder av avdelingen for KI-trygghet, SimulaMet
Om KI-sikkerhet
From Red Teaming to Resilience: Building Secure and Trustworthy AI
Professor Leon Moonen, leder av avdelingen for KI-sikkerhet, Simula
Eksempelprosjekter
From Technological Curiosity to AI Responsibility
Annika Willoch Olstad, doktorgradsstipendiat ved Simula
Auditing AI Systems and Monitoring Autonomous Agents
Sushant Gautam, doktorgradsstipendiat ved SimulaMet (SimpleAudit)
Brukerperspektiver fra offentlig sektor
Hilde Lovett, spesialrådgiver ved Helsedirektoratet “Samarbeid om kvalitet og forsvarlighet”. Bjørn-Tore Markussen, direktør for teknologi og IKT ved Forsvaret

Konferansierer: Lillian Røstad og Liv Dingsør

Om Centre for AI Security and Safety

Senteret fokuserer på to overlappende fagretninger:

KI-sikkerhet (AI Security) handler om bevisste angrep og ondsinnet bruk av KI-systemer. Forskningen ledes av professor Leon Moonen ved Simula Research Laboratory.

KI-trygghet (AI Safety) handler om utilsiktet skade og pålitelighet i KI-systemer. Forskningen ledes av professor Michael Riegler ved SimulaMet.