AI som formar beteenden: från individens nytta till samhällets konsekvenser

Abstract

Artificiell intelligens beskrivs ofta som ett verktyg för att förbättra individuella beslut och upplevelser genom personalisering och optimering. I praktiken fungerar många AI-system dock som infrastrukturer som formar beteenden i stor skala. Genom att optimera för mål som engagemang, effektivitet och konvertering påverkar de inte bara vad vi väljer, utan också hur vi konsumerar, lär oss och interagerar över tid. Presentationen belyser spänningen mellan individens nytta och samhällets konsekvenser. Små förbättringar på individnivå kan, när de skalas upp, leda till betydande effekter i form av ökad konsumtion, resursanvändning och förändrade normer. Samtidigt styrs utvecklingen av ekonomiska incitament som sällan tar hänsyn till dessa bredare effekter. Genom konkreta exempel diskuterar vi hur AI-system bidrar till att normalisera vissa beteenden och vilka etiska frågor detta väcker kring ansvar, värderingar och vad vi egentligen bör optimera för i framtidens AI.