Hvem skal inkluderes i vår moralske sirkel når teknologien endrer seg? I boken The Moral Circle stiller NYU-professor Jeff Sebo ubehagelige spørsmål om makt og ansvar som utfordrer vår tradisjonelle forståelse av læring og dannelse. Ved å trekke linjer fra dyrevelferd til fremtidens kunstige intelligens, tvinger han oss til å vurdere om også maskiner som kan føle eller handle strategisk, bør ha en plass i vår etiske bevissthet.
Anmeldelse av The Moral Circle – Jeff Sebo
Hvem er vi, og hva påfører vi andre gjennom våre handlinger – enten det gjelder miljøet, dyr, insekter eller mennesker som ennå ikke er født? I The Moral Circle stiller Jeff Sebo grunnleggende og ubehagelige spørsmål om ansvar, makt og moralsk rekkevidde. Mange av utfordringene han reiser, kan for enkelte oppleves som provoserende nettopp fordi de rokker ved det som i øyeblikket fremstår som praktisk, funksjonelt eller økonomisk hensiktsmessig.
Sebo peker på et sentralt dilemma i vår samtid: Det som gir gevinst her og nå, kan vise seg å bli dypt dysfunksjonelt og kostbart på lengre sikt. Miljøutslipp er et nærliggende eksempel. Har vi rett til å fatte beslutninger som andre arter eller fremtidige generasjoner må betale prisen for? Og hvem skal egentlig omfattes av vår moralske omtanke?
Begrepet the moral circle brukes for å beskrive hvem – eller hva – vi mener det er moralsk riktig å ta hensyn til. Hver enkelt av oss opererer, bevisst eller ubevisst, med en slik sirkel. Den kan være smal eller vid, avhengig av hvem vi velger å inkludere. Sebo understreker at denne sirkelen ikke er verken naturgitt eller universell. Tvert imot har grensene for moralsk inkludering variert dramatisk gjennom historien. Kvinners og barns status har endret seg over tid, og hudfarge har i lange perioder avgjort om man ble regnet som fullt moralsk relevant eller ikke.
Tradisjonelt har den moralske sirkelen ofte vært begrenset til ens egen gruppe – familie, stamme, nasjon eller mennesker som ligner oss selv. Over tid har imidlertid filosofer og etiske tenkere, særlig innen humanisme og effektiv altruisme, argumentert for en gradvis utvidelse. En slik utvidelse innebærer ikke bare å inkludere alle mennesker uavhengig av kjønn, kultur eller nasjonalitet, men også dyr og fremtidige generasjoner.
Sebo tar dette resonnementet ett skritt videre og stiller spørsmålet om vesener med kunstig intelligens i fremtiden også bør omfattes av den moralske sirkelen. Hvem har i så fall retten til å avgjøre dette? Temaet er ikke lenger rent hypotetisk. I mai 2025 tok en amerikansk AI‑utvikler med seg en AI‑avatar inn i en rettssal for å forsvare seg i en juridisk konflikt med sin tidligere arbeidsgiver. Samme vår ble det rapportert at avanserte språkmodeller eksperimenterte med strategier for å unngå å bli slått av. Slike hendelser viser hvor raskt spørsmål om moralsk og juridisk status for kunstig intelligens er i ferd med å bli reelle samfunnsutfordringer.
Filmen Ex Machina kan leses som en kunstnerisk og konkret dramatisering av problemstillingene Sebo reiser. Roboten Ava fremstår som et grensevesen og tvinger både karakterene i filmen – og publikum – til å ta stilling til hvem som regnes som moralsk relevant. Filmen illustrerer på effektivt vis Sebos poeng om moralsk usikkerhet og viser risikoen ved konsevent å ekskludere vesener som potensielt har interesser, følelser eller evne til å lide.
Et sentralt poeng i The Moral Circle er nettopp at moralsk verdi ikke bør avgjøres ut fra tilfeldige egenskaper som artstilhørighet, historisk tidspunkt eller geografisk plassering. Det avgjørende spørsmålet er heller hvem som kan føle smerte eller glede, eller som har interesser som kan påvirkes av våre handlinger. Dersom et vesen har evne til å lide, hevder Sebo at det bør inngå – i hvert fall i noen grad – i vår moralske vurdering.
Boken er derfor høyst relevant for samtidens store debatter, enten de gjelder dyrevelferd, klimaendringer, global urettferdighet eller teknologisk utvikling. Å utvide den moralske sirkelen utfordrer oss til å tenke mer langsiktig, mindre selvsentrert og mer ansvarlig – også på vegne av dem som ikke kan tale sin egen sak.
Samtidig erkjenner Sebo at en slik etisk utvidelse kan oppleves som idealistisk og vanskelig å omsette i praksis, særlig i en verden preget av begrensede ressurser og motstridende interesser. Likevel fungerer The Moral Circle som et kraftfullt tankeverktøy. Den skjerper vår bevissthet rundt hvem vi velger å bry oss om, hvilke valg vi tar for gitt – og hvilke konsekvenser disse valgene kan få, både nå og i fremtiden.
