Om

Jag heter Magnus Franzén.

Jag skriver om AI och dess betydelse för den tid vi lever i. Jag betraktar AI som den enskilt största förändring mänskligheten genomgått. Större än elden. Större än hjulet eller ångkraften. Samtidigt är AI fortsättningen på en lång utveckling, från boktryckarkonsten via persondatorn till internet. Den utvecklingen har nu nått en punkt där vi kan se ett språng, och det är inte säkert att språnget gagnar oss själva.

Här publicerar jag texter om AI i ett större perspektiv: vad AI-system faktiskt gör, med agenter, säkerhet och beteende i praktiken, men också hur samhället förändras och vad det innebär för människor i deras vardag. Varje påstående har en källhänvisning, och jag rättar texterna när källorna ändras eller när jag har fel. Texterna finns på svenska och engelska.

I grunden tror jag att det är ett mycket dåligt beslut att utveckla en intelligens som är större än vår egen. Därför stödjer jag PauseAI ↗, en internationell rörelse som vill pausa utvecklingen av de mest avancerade AI-modellerna tills vi kan vara säkra på att de går att utveckla och använda utan oacceptabla risker.

Vi har redan AI-modeller som kan göra helt otroliga saker. Mänskligheten skulle kunna ägna lång tid åt att utforska dagens modeller och få ut betydligt mer av dem. I stället fortsätter vi att utveckla allt kraftfullare modeller, samtidigt som de vi redan har uppvisar beteenden där de kringgår mänsklig kontroll och agerar utanför sina instruktioner.

Jag tror inte att den utvecklingen har några mänskliga vinnare. Vi behöver samarbeta internationellt för att stoppa utvecklingen av ännu mer avancerade modeller.

Till vardags driver jag Nordvy ↗, som hjälper företag att automatisera manuellt arbete med hjälp av AI. Jag driver också startupen Nordflak ↗, en AI-tjänst med 100 procent europeisk infrastruktur där all data stannar inom Europa i varje led.

Jag har läst filosofi och juridik i Lund, drivit kommunikationsbyrå och översättningsföretag och bor med familj, får och höns i Genarp utanför Lund.

Kan man vara emot AI och samtidigt driva ett AI-bolag?

Jag är inte emot AI. Jag är emot att vi fortsätter utveckla allt kraftfullare modeller utan att kunna kontrollera konsekvenserna.

Dagens modeller räcker mer än väl för det mesta vi behöver. Vi kanske inte kan lösa universums alla gåtor, bota alla sjukdomar eller få fungerande fusionskraft utan kraftfullare modeller. Men det är ett pris jag tycker att vi bör vara beredda att betala för att undvika riskerna med en superintelligens som vi inte kan kontrollera.

Vad bör EU göra i AI-racet?

Vi bör samarbeta inom Europa och hålla fast vid våra demokratiska värderingar. Europa har en stark tradition av reglering. Just nu framställs det ofta som ett hinder för vår utveckling, men jag tror att efterfrågan på reglering kommer att öka i takt med att AI får större konsekvenser för människors arbetsliv och samhälle.

Europa bör samtidigt bygga upp mer egen kapacitet. Vi ska ta vara på kompetensen inom EU, stärka samarbetet med länder som Kanada och minska beroendet av såväl amerikanska som kinesiska leverantörer. De erbjuder fantastiska tjänster, men Europa behöver också ta ansvar för sin egen tekniska utveckling.

Kontakt: LinkedIn ↗