Nachschau – Veranstaltung am 14.06.2018

 

 

Vortrag und Diskussion

aus der Reihe Zukunftsforum

zum Thema

Maschinelle Intelligenz und Autonome Systeme:

Perspektiven für Verteidigung und Sicherheit

 
Referent:

Prof. Dr.-Ing. habil. Jürgen Beyerer

Vorsitzender des Fraunhofer VVS
Institutsleiter des Fraunhofer IOSB
Foto: Fraunhofer-Gesellschaft
 
Begrüßung:

Susanne Finkenzeller

stellv. Abteilungsleiterin Wissenschaftspolitik, Fraunhofer-Gesellschaft
 
Kommentar:

Dr. Olaf Theiler

Referatsleiter Zukunftsanalyse, Planungsamt der Bundeswehr
 
Moderation:

Dr. Florian Seiller

GSP-Sektionsleiter Berlin
 
Zusammenfassung:

Tobias Süß

DWT-Sektionsleiter Berlin-Brandenburg

 

Im Anschluss laden wir zu einem kleinen Empfang mit der Gelegenheit zum Gedankenaustausch.

 

am Donnerstag, 14. Juni 2018, 19:00 – 20:30 Uhr

Fraunhofer-Forum im Spree-Palais, Raum Spektrum (EG)

Anna-Louisa-Karsch-Str. 2, 10178 Berlin

 

*****

 

Bericht der Sektion Berlin

KI: Eine Schlüsseltechnologie der Zukunft

Maschinelle Intelligenz und Autonome Systeme für Verteidigung und Sicherheit

Von Dr. Florian Seiller
Standen dem Publikum an dem Abend noch Lange Rede und Antwort: Prof. Dr. Beyerer vom Fraunhofer VVS und Dr. Olaf Theiler vom Planungsamt der Bundeswehr. Moderation: Dr. Florian Seiller von der GSP-Sektion Berlin (v.l.n.r.). – Foto: DWT

Das Thema Künstliche Intelligenz (KI) ist derzeit in aller Munde. Intelligente Maschinen und Systeme finden in immer stärkerem Ausmaß Eingang in unsere Lebens- und Arbeitswelt. Bereits jetzt sind sie aus unserem Alltag nicht mehr wegzudenken. War die in der zweiten Hälfte der 1950er Jahre als Teilgebiet der Informatik entstandene Disziplin lange Zeit eher ein Nischenthema, haben sich aufgrund der bahnbrechenden wissenschaftlichen Fortschritte der letzten Jahre zahlreiche neue Anwendungsfelder eröffnet. Maßgeblich vorangebracht wurde die Entwicklung durch die Verfügbarkeit großer Datenmengen, aber auch durch die Steigerung der Rechenleistung und Speicherkapazität moderner Computersysteme. Ob im Industriesektor, im Marketing, im Bildungswesen, in der Medizin und im Gesundheitswesen, im Finanzsektor oder beim Verkehr: Das Potenzial von KI ist enorm. Und die Entwicklung steht gerade erst am Anfang. KI gilt daher als eine der Schlüsseltechnologien der Zukunft.

Auch für die Bereiche Verteidigung und Sicherheit ergeben sich durch den Einsatz von intelligenter Software zahlreiche Chancen und Perspektiven, wie Prof. Dr. Jürgen Beyerer, Leiter des Fraunhofer Instituts für Optronik, Systemtechnik und Bildauswertung (IOSB) in seinem Vortrag anschaulich darlegte. Prof. Dr. Beyerer ist zugleich Vorsitzender des Fraunhofer VVS, eines Verbundes von neun Fraunhofer-Instituten, die angewandte Forschung für das Bundesministerium der Verteidigung (BMVg), dessen nachgeordnete Behörden und für die Bundeswehr sowie für die Industrie betreiben.

Mit dem Themenabend knüpften GSP, DWT und Fraunhofer VVS an ihre gemeinsame Veranstaltung vom Frühjahr 2017 (siehe dazu die GSP-Veranstaltungsnachschau vom 23. März 2017) an, bei der die Lage der Verteidigungs- und Sicherheitsforschung in Deutschland im Fokus gestanden hatte.

KI: Was man darunter versteht und wie Computer lernen

Eine allgemeinverbindliche Definition des Begriffs KI gibt es nicht. Prof. Dr. Beyerer bezeichnet KI als einen Teilbereich der Informatik, bei dem Maschinen die Fähigkeit erlangen, Aufgaben „intelligent“ zu erledigen. Einen Durchbruch brachten in den letzten Jahren die Fortschritte bei der Mustererkennung (Sprach- und Text-, vor allem aber Bild- und Videoverarbeitung) durch eine Methode des Maschinellen Lernens (ML), basierend auf Künstlichen Neuronalen Netzen. Anders als bei der festen Programmierung von Lösungswegen entwickeln Algorithmen anhand von Daten komplexe Modelle, „sammeln“ Erfahrungen und generieren Handlungsempfehlungen. Maschinen „lernen“ und bilden Verknüpfungen ähnlich der Neuronen des menschlichen Gehirns.

Nach einer Einführung in die wichtigsten Konzepte rund um ML und die vielfältigen technologischen Herausforderungen bei der Realisierung intelligenter Systeme stellte Prof. Dr. Beyerer einige beeindruckende Beispiele des Fraunhofer VVS vor. Dabei wurde deutlich: Mit der Zukunftstechnologie lässt sich ein deutlicher Mehrwert in sämtlichen militärischen Fähigkeitsdomänen – Aufklärung, Führung, Wirkung und Unterstützung – erzielen.

Intelligente Systeme für Verteidigung und Sicherheit: Beispiele aus den Instituten des Fraunhofer VVS

Ein enormes Anwendungspotenzial von KI/ML ergibt sich für Autonome Robotersysteme, vom LKW über die Baumaschine bis hin zu Fahrzeugen zur IED/Minen-Abwehr. Bereits jetzt ist es den Experten von Fraunhofer möglich, innerhalb kurzer Zeit vorhandene Fahrzeuge durch den Einbau entsprechender Tools in autonome Systeme zu verwandeln. „Solche Systeme können den Menschen bei schweren Tätigkeiten entlasten und lassen sich in gefährlichen bzw. menschenfeindlichen Umgebungen einsetzen“, wie Prof. Dr. Beyerer anschaulich erläuterte.

Ganz vorne mit dabei ist der Fraunhofer VVS bei der Entwicklung unbemannter Unterwasserfahrzeuge (UUV) zur Untersuchung oder Vermessung des Meeresbodens: Mit dem Projekt DEDAVE, das unter anderem beim Aufspüren von Flugzeugwracks des legendären kanadischen Hochleistungsjäger-Prototyps Avro Arrow zum Einsatz kam, haben die Fraunhofer-Forscher beachtliche Erfolge erzielt. Ebenfalls äußerst erfreulich: Beim Shell Ocean Discovery Prize steht das Team ARGGONAUTS des Fraunhofer IOSB (Karlsruhe) im Finale – als eines von neun Teams weltweit. Im militärischen Bereich lassen sich UUV insbesondere zur Minensuche und Minenjagd einsetzen.

Ein weiteres wichtiges Feld ist die Entwicklung intelligenter Lösungen zur Abwehr von autonomen Schwärmen angreifender Roboter, wie etwa Unbemannten Flugsystemen (UAV), die eine reale Bedrohung auf dem Gefechtsfeld darstellen und gegen die die NATO noch unzureichend gewappnet ist. UAV-Schwärme könnten zum Beispiel auf dem Gefechtsfeld dazu eingesetzt werden, Flugabwehrsysteme zu übersättigen und Aufklärungs- und Kommunikationssysteme zu stören. Zudem könnten sie mit letalen Wirkmitteln bestückt werden.

Darüber hinaus arbeiten die neun Institute des Fraunhofer VVS an KI-Lösungen zur Gefechtsfeldaufklärung, zur Erkennung von Gefahrenlagen, zur Analyse komplexer Situationen und zur Entscheidungsunterstützung. Breiten Raum nehmen dabei die Entwicklung effizienter Systeme zur Analyse großer Datenmengen (Big Data) und neue Formen der Mensch-Maschine-Interaktion (z.B. Soldaten-Mehrroboter-Team) ein.

Verfahren der KI und des ML könnten außerdem bei der Technologiefrühaufklärung im Verteidigungs- und Sicherheitsbereich zum Einsatz kommen, namentlich bei der Technologievorausschau für das BMVg. Eine solche Vorausschau, wie sie das Fraunhofer-Institut für Naturwissenschaftlich-Technische Trendanalysen INT in Euskirchen seit über 40 Jahren im Auftrag des BMVg durchführt, trägt dazu bei, zukünftige technologische Entwicklungen zu bewerten und die Ergebnisse in die strategische Planung zu integrieren. So wird zurzeit untersucht, wie mithilfe von KI/ML die ungeheuren Mengen an verfügbaren Informationen (wissenschaftliche Publikationen, Patente und Internetquellen) für die Technologiefrühaufklärung und zur Unterstützung der Wissenschaftler erschlossen und nutzbar gemacht werden können.

Verfügbarkeit großer Datenmengen: Ein entscheidender Wettbewerbsfaktor

Am Ende seiner Ausführungen ging Prof. Dr. Beyerer auf die Lage des KI-Standorts Deutschland ein, der in einigen Bereichen zur Weltspitze gehört, in wichtigen Anwendungsfeldern seine Anstrengungen aber noch erheblich verstärken muss: „Deutschland und Europa brauchen ausreichende Mittel und Förderinstrumente, um im knallharten weltweiten Wettbewerb bei KI mithalten und ganz vorne mit dabei sein zu können“. Schon jetzt stammten die meisten wissenschaftlichen Publikationen zu KI aus der Volksrepublik China, die, ähnlich wie die USA, Milliardensummen in diese Schlüsseltechnologie investierten. Deutschland brauche daher dringend eine KI-Strategie, eine Stärkung des Transfers für die Praxis und zeitgemäße Regeln zur Datenverfügbarkeit. „Große Datenmengen sind ein entscheidender Wettbewerbsfaktor. Was wir brauchen ist eine ausgewogene Balance zwischen Datenschutz und Datennutzung, um das Innovationspotenzial von KI ausschöpfen zu können. Dass das möglich ist, zeigt das Beispiel des von Fraunhofer mit Hilfe der Industrie entwickelten ‚Industrial Data Space‘“. Deutlich mehr deutsches Engagement sei nach Auffassung Beyerers auch bei der Förderung von sog. Sprunginnovationen erforderlich.

Verlust der menschlichen Entscheidungshoheit durch KI?

Als ideale Ergänzung zu dem Vortrag von Prof. Dr. Beyerer erwiesen sich die Ausführungen von Dr. Olaf Theiler, Leiter des Referats Zukunftsanalyse im Planungsamt der Bundeswehr. Der Sozialwissenschaftler ging nicht nur auf militärische Anwendungsmöglichkeiten, sondern auch auf ethische und gesellschaftliche Aspekte und mögliche Risiken und Kritik an KI ein, räumte dabei aber auch mit so manchen Mythen auf.

Blick ins Podium – Foto: DWT

So zeigte er unter anderem die Disruptionspotentiale von KI auf dem Gefechtsfeld der Zukunft auf und stellte einige aktuelle KI-basierte Waffenentwicklungen vor. Bei der Debatte sei es laut Dr. Theiler wichtig, zwischen ferngelenkten, automatisierten und autonomen Systemen zu unterscheiden. Während bei den beiden erstgenannten Formen der Mensch die Kontrolle voll behalte, seien autonome Systeme in der Lage, nach Aktivierung auch ohne menschliches Zutun zu operieren.

Dr. Theiler wies darauf hin, dass unbemannte Systeme keineswegs neu, sondern bereits seit Jahrzehnten in allen Dimensionen im Einsatz sind. Bekannte Beispiele sind das Flugabwehrsystem MANTIS oder das Flugabwehrraketensystem PATRIOT mit ihrer automatischen Zielerkennung und -verfolgung. Der Mensch sitze hier aber immer noch am Hebel und sei der entscheidende Faktor.

Dr. Theiler vertrat die These, dass der Hype um KI weitergehen werde. Die Technologie werde die Digitalisierung und Automatisierung der Streitkräfte weiter beschleunigen. Daher müsse man sich intensiv mit möglichen Risiken auseinandersetzen und ethische Grundsätze streng beachten. Er warnte aber auch vor der Illusion eine KI-freien Welt: „Aufgrund des enormen Potenzials von KI können wir davon ausgehen, dass eine Reihe von Akteuren autonome Systeme entwickeln und einsetzen werden. Darauf müssen wir bald schlüssige, effektive und ethisch vertretbare Antworten finden“.

Müssen wir angesichts dieser Entwicklung Angst vor der Entstehung einer „übermenschlichen Superintelligenz“ oder vor Killerrobotern haben? Nach Auffassung Dr. Theilers sei der Mensch trotz bemerkenswerter technischer Fortschritte noch weit entfernt von der Herrschaft der Maschinen bzw. von autonomen Kampfrobotern, wie sie etwa im Science Fiction – Klassiker Terminator zu sehen sind. Ob Maschinen menschliche Züge annehmen, sicher selber Ziele setzen oder eines Tages sogar wirkliche Emotionalität empfinden könnten, sei noch sehr fraglich. Zugleich warnte er vor übertriebenen Erwartungen an KI oder der Beschwörung von Hollywood-Szenarien.

Realistischer seien aktuelle Trends zur Verbindung von Mensch und Maschine, bei denen durch geschicktes Teaming die Stärken beider Seiten möglichst effektiv kombiniert werden. Doch wie auch immer die technologische Entwicklung voranschreite: „Menschliche Kontrolle bleibt weiterhin notwendig, um auf unerwartetes Verhalten hoch autonomer Systeme reagieren zu können. Der Mensch muss stets die Kontrolle behalten und notfalls auch den Stecker ziehen können“.

Fazit

Bei der anschließenden Diskussion auf dem Podium und mit dem Publikum kamen nochmals zahlreiche Facetten des Themas und die möglichen Auswirkungen von KI/ML und Autonomik zur Sprache. Einigkeit herrschte darin, dass es eines verantwortungsvollen Umganges mit dieser Technologie bedarf, aber auch darin, dass Schlüsseltechnologien nicht per se verteufelt werden sollten.

Die Zuhörerinnen und Zuhörer – Mitglieder von GSP und DWT, Studierende und Vertreter von Bundeswehr, Ministerien und Industrie – erhielten im Fraunhofer-Forum einen faszinierenden und gut verständlichen Einblick in eine Schlüsseltechnologie des 21. Jahrhunderts.

Weiterführende Informationen:

Mehr zu den Grundlagen von KI und ihren Anwendungsmöglichkeiten bietet die Fraunhofer-Borschüre „Maschinelles Lernen. Eine Analyse zu Kompetenzen, Forschung und Anwendung“ (2018), abrufbar unter:

https://www.bigdata.fraunhofer.de/content/dam/bigdata/de/documents/Publikationen/Fraunhofer-Studie_ML_2018_WEB.PDF

Mehr zum Fraunhofer-Verbund für Verteidigungs- und Sicherheitsforschung VVS:

www.vvs.fraunhofer.de

zum Planungsamt der Bundeswehr:

www.planungsamt.bundeswehr.de

Nach oben

Zurück