Was, wenn Künstliche Intelligenz eigene „Überlebensstrategien“ entwickelt – und wir die Kontrolle verlieren? Beim zweiten CARUS-Seminar in den Bündner Alpen diskutierst du mit Expert:innen aus verschiedenen Disziplinen über die Evolution von KI, ihre Steuerbarkeit und die möglichen Folgen für unsere Zukunft.
Künstliche Intelligenz entwickelt sich mit rasantem Tempo – doch folgt sie einer eigenen Evolution? Können evolutionäre Prinzipien, wie sie in der Natur seit Jahrmillionen wirken, auf Maschinen angewandt werden? Und wenn ja, welche Konsequenzen hätte das für die langfristige Entwicklung von AGI (Artificial General Intelligence) und ASI (Artificial Super Intelligence)?
Dieses Seminar bringt führende Denker:innen zusammen, um genau diese Fragen zu erforschen. Im Mittelpunkt steht die Überlegung, ob KI-Systeme einem evolutionären Druck unterliegen und inwieweit sie von Menschen steuerbar oder regulierbar bleiben. Wir analysieren verschiedene Entwicklungsmodelle, potenzielle Risiken und Chancen sowie langfristige Szenarien für das Zusammenspiel zwischen Mensch und fortgeschrittener KI.
Kernfragen des Seminars:
- Evolution und KI: Gibt es eine Art „natürliche Selektion“ für Künstliche Intelligenzen? Welche Mechanismen könnten eine KI-Evolution vorantreiben?
- Steuerung & Regulierung: Sind AGIs langfristig kontrollierbar oder entziehen sie sich menschlicher Einflussnahme? Welche Strategien zur Steuerung von KI sind realistisch?
- Zukunftsszenarien: Wie könnte das Zusammenspiel zwischen Mensch und KI in einer Welt mit AGI/ASI aussehen? Welche ethischen, gesellschaftlichen und technologischen Herausforderungen ergeben sich?
Dieses Seminar richtet sich an alle, die sich intensiv mit den tiefgreifenden Fragen rund um die Entwicklung intelligenter Maschinen und deren Zukunftsperspektiven auseinandersetzen möchten. Freue dich auf inspirierende Impulse, kontroverse Diskussionen und visionäre Gedankenspiele!
Zusätzlich wird auch der Bezug zum Kloster Disentis, wo das Seminar stattfindet, nicht fehlen. Bei einem unkomplizierten Treffen erzählen uns die Klosterbrüder vom Leben im Kloster und vielleicht sogar ihrem Bezug zu künstlicher Intelligenz. Eine Führung durch das Klostergelände ist ebenfalls Teil des abwechslungsreichen Programms.
Dieses Seminar baut inhaltlich nicht auf das erste Carus-Seminar auf und kann unabhängig davon besucht werden.
Leitung: Dr. Peter Kauf, CEO Prognosix AG, Experte für Innovation und Data Science
Referierende:
- Prof. em. Dr. Hans-Johann Glock – Lehrstuhl für Theoretische Philosophie, Experte für Sprachentwicklung und Geist der Tiere
- Nicolas Zahn – Geschäftsführer der Swiss Digital Initiative (SDI)
- Dr. Andreas Streich – Dozent für Informatik, Data Science und Machine Learning, ETH Zürich
- Prof. Dr. Melika Payvand – Labor für Emerging Intelligent Substrates, Universität Zürich
Organisation: Dr. Meret Tuor
Administration: Nathalie Ellington
Zielpublikum: alle geförderten der Schweizerischen Studienstiftung
Anzahl TN: 25
Vorbereitungsarbeiten / Unterlagen:
Werden vor dem Seminar bereitgestellt.
Kosten:
Eine Eigenbeteiligung von CHF 50 wird von den Teilnehmenden bezahlt.
Die Schweizerische Studienstiftung übernimmt die Kosten für die Anreise innerhalb der Schweiz. Weitere Informationen folgen mit der Anmeldebestätigung.
Anmeldeschluss: 7. September 2025
