Rudi Rizman

DOI

https://doi.org/10.62409/czn.265

PDF

PDF (SLO)

Številka (eng. Number)

ČZN, zvezek 2-3, 2023

effective altruism, ancestors and descendants, future of humanity, artificial intelligence, moral values, utopia and dystopia.

Prispevek se, tokrat kot monolog, navezuje na moje zadnje srečanje z dr. Vekoslavom Grmi­ čem, na katerem sva v pogovoru prišla do najinih skupnih prleških korenin in v tem smislu odprla vprašanje o najinem dolgu do prednikov, seveda pa tudi predvsem do zanamcev. Zadnje je v tem času, ko se človeštvo sooča z realno možnostjo ekološkega in nuklearnega Armagedona, še več, s samim preživetjem človeške vrste, toliko bolj pereče. Tu moramo dati prav referenčnemu mislecu svetovne zgodovine Yuvalu Noahu Harariju, da današnje generacije človeške vrste nevredne zgodovine ne smejo enostavno ponavljati, kakor to tačas vidimo na primeru vojne v Ukrajini in drugod po svetu, temveč se morajo od nje tudi osvobajati.

Pri tem nam je lahko v veliko oporo ‘efektivni altruizem’ v navezavi na koncept ‘dolgoročnega gledanja’, ki mora naše moralne in družbene izbire rekalibrirati z namenom, da bi te vključevale tudi dobrobit za prihodnje generacije, torej da se je treba postaviti tudi v vlogo zanamcev. Ni dovolj, če zasledujemo samo dobrobit/koristi naših neposrednih potomk in potomcev, (prav)vnukinj in (pra)vnukov, temveč tudi preko njih, kar pomeni odgovornost oz. moralno zavezo do stotin milijonov ljudi, ki bodo živeli v prihodnosti. Še prej pa tudi odgovornost do osem milijard danes živečih prebivalcev planeta, kar pred­ stavlja petnajst odstotkov vseh, ki so živeli doslej. Družbene in moralne izbire trenutno živečih generacij, na katere prisegamo danes, ne bodo imele posledic samo zanje, temveč tudi za prihodnje. Za nobeno od njih ni ne družbeno in ne moralno sprejemljivo, da bi jim odrek(a)li srečo ali pa jih obsodili na trpljenje. Številni misleci opažajo danes glavno težavo v tem, da je prihodnost človeštva na našem planetu v tolikšni meri negotova, da znanost, vlade in verstva ne morejo ali ne znajo ponuditi tiste gotovosti – s tem v zvezi –, ki se običajno pričakuje od njih.

Kaj bomo (pre)pustili prihodnjim rodovom pa je seveda veliko in (še) neodgovorjeno vprašanje. Pri roki so nam, na primer, (tehnološka) orodja, s katerimi bi lahko človeštvo naredilo velike progresivne korake, primerljive s tistimi v zadnjih tristo letih, ko se je življenjska doba ljudi od začetnih štirideset let povečala na več kot sedemdeset in ko je 80 odstotkov ljudi živelo v skrajni revščini, ki se je do danes zmanjšala na okoli deset od­ stotkov. Sodobne sofisticirane komunikacijske tehnologije za razliko od prejšnjih časov omogočajo instantno pridobivanje in poznavanje informacij ter z njimi vednosti ne glede na razdalje. Toda tudi v tem primeru imamo problem s paradoksom njihove potencialno ambivalentne uporabe, kot to dokazuje primer bodisi človeštvu prijazne (elektrika, v medicini ali drugod) ali uničevalne (vojne) uporabe atomske energije. V tej zvezi se pojavljajo še drugi in bolj kompleksni problemi. Na primer, kam lahko družbe pelje neregulirana umetna inteligenca in sedanje moralne vrednote, ki sem nam zdijo tako samoumevne, kot je bila nekoč trgovina s sužnji. Ravno v zvezi z razvijanjem naprednih sistemov umetne inteligence je ključno, da se znanstveni in politični odločevalci dokopljejo do spoznanj o njeni družbeni uporabi, ki bo služila vsemu človeštvu, namesto da bi mu škodile in ga pognale v novo sužnost. Problem je mogoče strniti v vprašanje, ali bo ‘zmagala’ družbi prijazna (nova) utopija ali njej nenaklonjena in nadrejena totalitarna distopija?

In this article, this time in the form of a monologue, I reflect on my recent meeting with Dr. Vekoslav Grmič. We discussed our shared heritage from the Prlekija region and pon­dered what we owe to our ancestors and, more importantly, to our descendants. With the looming threat of ecological and nuclear disasters, and even the survival of our species at stake, it is crucial that we learn from the lessons of history. Yuval Noah Harari, an eminent historian, warns us that we cannot afford to repeat the same mistakes that have plagued humanity in the past, as we see happening in conflicts such as the war in Ukraine. Instead, we must break free from the shackles of our past and strive for a better future.

This is where ‘effective altruism’ can be of great help, in relation to the concept of ‘longtermism’, which needs to recalibrate our moral and social choices to include the wellbeing of future generations, i.e., to put ourselves in the role of our descendants. It is not enough to only think about the welfare of our immediate descendants, such as our (great) grandchildren, but also those beyond them. We have a responsibility to the hundreds of millions of people who will live in the future, and this requires a moral commitment to put ourselves in the shoes of our descendants. But even more so, a responsibility to the eight billion people living on the planet today, representing fifteen percent of all those who have lived so far. The moral choices we make today will not only impact us but also those who come after us. It is not acceptable to deny them happiness or condemn them to a life of suffering. The social and moral choices of the generations living today will have consequences for the future of humanity on our planet. However, many thinkers believe that the main problem is the uncertainty of the future, which science, governments, and religions are unable to offer certainty on.

The question of what we will leave or pass on to future generations is a huge and still unanswered one. We have at our disposal numerous technological tools that could help humanity make great strides forward, much like the last three centuries, when human life expectancy increased from 40 years to over 70. Moreover, around 80% of people were living in extreme poverty, which has been reduced to around 10% to date. Unlike earlier times, today’s sophisticated communication technologies enable us to gather and share information instantly, regardless of distance. However, the potential ambivalent use of this technology presents a paradox, as demonstrated by the example of atomic energy, which can be used for either human­friendly (i.e., electricity, medicine) or destructive (i.e., war) purposes. This context also poses other complex issues that require attention. For example, where unregulated artificial intelligence and the current moral values we take for granted, as the slave trade once did, can lead societies. It is precisely in relation to the development of advanced AI systems that it is crucial for scientific and political decision­ makers to come to grips with the lessons of their social application, which will serve all of humanity instead of harming it and driving it into a new slavery. The dilemma can be summed up in the question: will a society­friendly (new) utopia or a society­hostile and superior totalitarian dystopia ‘win’?

In diesem Artikel, diesmal in Form eines Monologs, beziehe ich mich auf mein letztes Treffen mit Dr. Vekoslav Grmič, bei dem wir im Gespräch auf unsere gemeinsamen Wurzeln aus Prlekija zu sprechen kamen und in diesem Sinne auch die Frage aufwarfen, was wir unseren Vorfahren und natürlich auch unseren Nachkommen schulden. Letzteres ist umso wichtiger in einer Zeit, in der sich die Menschheit mit der realen Möglichkeit eines ökologischen und nuklearen Armageddon konfrontiert sieht, und darüber hinaus mit dem Überleben der menschlichen Spezies überhaupt. An dieser Stelle sollten wir dem Vordenker der Weltgeschichte, Yuval Noah Harari, Recht geben, dass die heutigen Generationen der menschlichen Spezies nicht einfach eine unwürdige Geschichte wiederholen dürfen, wie wir es derzeit im Fall des Krieges in der Ukraine und anderswo auf der Welt sehen, sondern sich auch von ihr befreien müssen.

Hier könnte „effektiver Altruismus“ eine große Hilfe sein, und zwar im Zusammenhang mit dem Konzept des „Langfristigen“, um unsere moralischen und sozialen Entscheidungen neu zu kalibrieren, um das Wohlergehen künftiger Generationen einzubeziehen,

d.h. uns in die Rolle der Nachkommenschaft zu versetzen. Es reicht nicht aus, nur das Wohlergehen unserer unmittelbaren Nachkommen, (Ur­)Enkelinnen und (Ur­)Enkel zu verfolgen, sondern auch darüber hinaus, was eine Verantwortung oder moralische Verpflichtung gegenüber den Hunderten von Millionen von Menschen bedeutet, die in Zukunft leben werden. Mehr noch aber eine Verantwortung gegenüber den acht Milliarden Menschen, die heute auf unserem Planeten leben, was fünfzehn Prozent aller Menschen entspricht, die bisher gelebt haben. Die sozialen und moralischen Entscheidungen der heute lebenden Generationen werden nicht nur für sie, sondern auch für die kommenden Generationen Konsequenzen haben. Es ist weder sozial noch moralisch akzeptabel, dass einem von ihnen das Glück verwehrt wird oder sie zum Leiden verurteilt werden. Viele Denker sehen heute das Hauptproblem darin, dass die Zukunft der Menschheit auf unse­ rem Planeten so ungewiss ist, dass die Wissenschaft, die Regierungen und die Religionen nicht in der Lage oder unfähig sind, in dieser Hinsicht die Gewissheit zu geben, die man normalerweise von ihnen erwartet.

Was wir den zukünftigen Generationen hinterlassen bzw. überlassen werden, ist natürlich eine große und (noch) unbeantwortete Frage. Wir verfügen zum Beispiel über die (technologischen) Mittel, mit denen die Menschheit große Fortschritte machen könnte, vergleichbar mit denen der letzten dreihundert Jahre, als die Lebenserwartung der Men­ schen von anfänglich vierzig auf über siebzig Jahre anstieg und 80 % der Menschen in extremer Armut lebten, was bis heute auf etwa 10 % reduziert wurde. Im Gegensatz zu früher ermöglichen es die hochentwickelten Kommunikationstechnologien von heute, Informationen augenblicklich zu erhalten und damit Wissen über Entfernungen hinweg zu vermitteln. Aber auch hier stellt sich das paradoxe Problem ihrer potentiell ambiva­ lenten Nutzung, wie am Beispiel der entweder menschenfreundlichen (Elektrizität, in der Medizin oder anderswo) oder zerstörerischen (Krieg) Nutzung der Atomenergie deutlich wird. In diesem Zusammenhang gibt es noch weitere und komplexere Probleme. Zum Beispiel, wohin unregulierte künstliche Intelligenz und die heutigen moralischen Werte, die wir für selbstverständlich halten, wie es einst der Sklavenhandel war, die Gesellschaften führen können. Gerade in Bezug auf die Entwicklung fortschrittlicher KI­Systeme ist es für wissenschaftliche und politische Entscheidungsträger von entscheidender Bedeutung, sich mit den Lehren ihrer gesellschaftlichen Anwendung auseinanderzusetzen, die der gesamten Menschheit dienen, anstatt ihr zu schaden und sie in eine neue Sklaverei zu treiben. Das Problem lässt sich in der Frage auf den Punkt bringen: Wird eine gesellschafts­ freundliche (neue) Utopie oder eine gesellschaftsfeindliche und übermächtige totalitäre Dystopie ‘gewinnen’?