Schulungsübersicht

Grundlagen der Ethik in autonomen Systemen

  • Definition von Autonomie in KI-Agenten
  • Anwendung wesentlicher ethischer Theorien auf das Maschinenverhalten
  • Stakeholder-Perspektiven und wertorientierte Designmethoden

Gesellschaftliche Risiken und Hohe Stakes Use Case

  • Autonome Agenten in der öffentlichen Sicherheit, im Gesundheitswesen und Verteidigung
  • Mensch-KI-Zusammenarbeit und Grenzen des Vertrauens
  • Szenarien unerwünschter Folgen und Risikoamplifizierung

Rechtliche und regulatorische Rahmenbedingungen

  • Überblick über KI-Gesetzgebung und Trends in der Politik (EU-KI-Akt, NIST, OECD)
  • Haftung, Rechtsfähigkeit und Rechenschaftspflicht von KI-Agenten
  • Globale Governance-Initiativen und Lücken

Erläuterbarkeit und Transparenz der Entscheidungen

  • Herausforderungen bei der schwarzen Box des autonomen Entscheidungsprozesses
  • Design von erklärbaren und kontrollierbaren Agenten
  • Transparenzhilfen und -rahmen (wie Modellkarten, Datensheets)

Ausrichtung, Kontrolle und moralische Verantwortlichkeit

  • Strategien für die Ausrichtung des Agentenverhaltens an KI
  • Mensch-in-der-Schleife vs. Mensch-auf-der-Schleife-Kontrollparadigmen
  • Gemeinsame Verantwortung von Designern, Benutzern und Institutionen

Ethische Risikoanalyse und -Begrenzung

  • Risikokartierung und Analyse kritischer Ausfälle in der Agentendesign
  • Sicherheitsvorkehrungen und Abschaltmechanismen
  • Audit von Bias, Diskriminierung und Fairness

GoGovernance-Design und institutionelle Aufsicht

  • Prinzipien verantwortlicher KI-Governance
  • Mehrteilnehmer-Aufsichtmodelle und -Audits
  • Entwicklung von Einhaltungsrahmen für autonome Agenten

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Verständnis von AI-Systemen und den Grundlagen des maschinellen Lernens
  • Kenntnisse über autonome Agenten und ihre Anwendungen
  • Wissen über ethische und rechtliche Rahmenbedingungen in der Technologiepolitik

Zielgruppe

  • AI-Ethiker
  • Politiker und Regulierungsbeamte
  • Fortgeschrittene AI-Praktiker und Forscher
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien