F R A U N H O F E R - I N S T I T U T F Ü R K O G N I T I V E S Y S T E M E I K S SAFETY Neues aus der Forschung zur Absicherung intelligenter Softwaresysteme SAFE INTELLIGENCE MAGAZIN 2020 / 2021

04 09 10 12 14 16 18 20 22 24 Safety Next muss über das System hinausdenken Im Interview erläutern Mario Trapp und Simon Burton die Unterschiede zwischen Safety Now und Safety Next Blog des Fraunhofer IKS Drei Themen im Überblick: Flexilience in autonomen Systemen, Paradigmenwechsel auf dem Automarkt, Unsicherheit bei der Objekterkennung Schwierige Situationen für autonome Fahrzeuge erkennen Wie bewegen sich autonome Fahrzeuge sicher in komplexen und bisher unbekannten Situationen ? Eine Lösung des Fraunhofer IKS hilft ihnen dabei Vom Schutzzaun zur kognitiven Produktionsanlage: Adaptive Safety in der Industrie Kognitive Produktionssysteme, die Ansätze von Adaptive Safety verfolgen, sorgen für Sicherheit und reduzieren Einschränkungen der Produktion deutlich Ein Softwarebaukasten für flexible und robuste Architekturen Das Software Framework resilientsoa des Fraunhofer IKS ebnet den Weg für flexible Serviceorientierte Architekturen in sicherheitskritischen Anwendungen Infographik: Safe Intelligence auf einen Blick » Wir haben eine konstruktive und lebhafte Diskussionskultur « Im Interview spricht Sabine Sickinger über die Transformation des Fraunhofer IKS zu einem agilen Institut Architektur für sichere Cloud-basierte Steuerungssysteme In einem gemeinsamen Projekt haben Hitachi und das Fraunhofer IKS eine Architektur für resiliente Cloud-basierte Steuerungssysteme erforscht Kurz notiert Events 25 Die Safe X Community by Fraunhofer IKS Das Netzwerk geht mit intelligenten und vernetzten Systemen die Herausforderungen verschiedener industrieller Anwendungen an 26 Impressum 3 3 Rubrik Inhalt

5 Mario, in einem Post auf dem Blog des Fraunhofer IKS beschreibst Du, »Why safety matters«, also warum Safety wichtig ist. Kannst Du das kurz zusammenfassen ? Mario Trapp: Sicherheit im Sinne von Safety heißt für uns, dass von Systemen keine Gefahr für den Menschen ausgehen darf. Das gilt zum Beispiel für autonome Fahrzeuge, Medizinprodukte, aber auch für Maschinen. Natürlich gibt es immer ein Restrisiko, man kann nie eine hundertprozentige Sicherheit garantieren. Und die Gesellschaft definiert Regeln, was sie als akzeptables Restrisiko em pfindet. Dieses Restrisiko müssen wir nachweislich unter- schreiten. Das ist insbesondere wichtig, wenn wir auf intelligente Systeme schauen wie beispielsweise Künstliche Intelligenz (KI) oder vor allem das Maschinelle Lernen. Bei Safety ist es allerdings wichtig zu betonen, dass wir keine akademischen Diskussionen führen, sondern uns immer wieder bewusst machen, dass es um die Sicherheit von Menschenleben geht. Simon Burton: Häufig wird argumentiert, dass Technologie die Welt sicherer macht. Auch beim autonomen Fahren: Rund 85 Pro- zent der Verkehrsunfälle gehen auf menschliche Unachtsamkeit zurück. Je mehr autonome Autos also auf den Straßen unterwegs sind, desto sicherer wird der Verkehr. Anders ausgedrückt: Wenn weniger Menschenleben durch unaufmerksame Fahrer gefährdet würden, dann kann es sein, dass die Bereitschaft steigt, einige wenige Unfälle durch technische Unzulänglichkeit der Systeme in Kauf zu nehmen. Eine positive Risikobilanz, wie von der Ethikkom- mission vorgeschlagen, ist für uns eine notwendige, aber nicht hinreichende Bedingung. Wie wird Sicherheit von Systemen im Sinne von Safety garantiert ? Mario Trapp: Wir gingen bislang immer von statischen System- kontexten aus, das heißt, das komplette System ist vollständig spezifiziert, mit all seinen Konfigurationen, allen Schnittstellen zu anderen Systemen und allen möglichen Einsatzkontexten. Darauf basierend erfolgt eine Analyse möglicher Systemfehler, Gegen- maßnahmen werden definiert und dann wird ein entsprechender Nachweis geführt, dass das System sicher ist. Das ist Safety Now. Simon Burton: Bis jetzt kann man Safety mit der Frage umschrei- ben: »Was passiert, wenn im System etwas kaputtgeht ?« Das heißt, man hat versucht, die Systeme in erster Linie robust gegen Kom- ponentenfehler zu machen. Und natürlich auch nachvollziehbar zu argumentieren, dass diese Ebene des Schutzes ausreichend ist. Interview

7 ring in Einklang mit KI bringen. Das betrifft zum einen natürlich die KI: Wie kann ich von der Black Box mehr in Richtung Grey Box kommen ? Wie kann ich vielleicht der KI das Zweifeln beibringen, dass sie eben besser ver steht, was sie nicht versteht ? Zum ande- ren geht es darum, das gesamte System ab- zusichern: Wie sehen die Sicherheitsarchi- tekturen aus, wie sehen Überwachungsme- chanismen aus ? Safe Intelligence bedeutet immer, dass Safety eine Eigenschaft auf Systemebene ist. Diese ho listische Sichtwei- se auf Safety von intelligenten Systemen ist einer der großen Vorzüge des Fraunhofer IKS, weil wir eben die Kompetenzen von Engineering, von Safety und von KI in einem Haus haben und nahtlos in einer ganz heit- lichen Lösung zusammenführen können. Das Software Engineering spielt da- bei also eine wichtige Rolle ? Mario Trapp: Unbedingt. Bei Safe Intelli- gence ist neben der KI und dem Maschi- nellen Lernen das Engineering die »Haupt- zutat«, um sichere intelligente Systeme zu bauen. Das betrifft Software Engineering genauso wie Systems Engineering, weil Safety als Systemeigenschaft nicht allein von der Software gewährleistet werden kann. Man muss KI mit Engineering in Ein- klang bringen, um so etwas wie Engineered Intelligence zu erreichen. Dann haben wir die Chance, die KI mit ihrem vollen Poten- zial für Zukunftsprodukte zu nutzen. Denn genauso wie Safety muss man auch Eigen- schaften wie Zuverlässigkeit und andere Qualitätseigenschaften nachweisen können. Simon Burton: Es entsteht im Prinzip eine ganz neue Engineering-Disziplin. Das kann man mit der Softwareentwicklung von vor 30 bis 40 Jahren vergleichen. Vor allem wegen der zunehmenden Komplexität der Systeme ging man damals dazu über, ei- nen Engineering-Prozess zu definieren, um sicherzustellen, dass die Software die Qua- litätsansprüche vorhersehbar erfüllt und definitiv bestimmte Eigenschaften aufweist. verbietet, Spurwechsel vorzunehmen, und das dem fahrerlosen Auto vor schreibt, sich an bestimmte Geschwindigkeitsbegrenzun- gen zu halten. Wie soll aber dann das Sys- tem reagieren, wenn die aktuelle Spur auf Basis dynamischer Verkehrsregelungssyste- me geschlossen wird ? Oder bei einem Un- fall, wenn orchestrierte Manöver zwischen mehreren Fahrzeugen nötig sind, um eine Rettungsgasse zu bilden ? Was passiert, wenn manche dieser anderen Fahrzeuge auch autonom fahren ? Das kann nach dem aktuellen Stand der Technik nicht ausrei- chend abgesichert werden, weil da ein ge- wisses emergentes Verhalten entsteht, das wir einfach nicht ausreichend spezifizieren können. Wie bildet das Fraunhofer IKS Safety und Safe Intelligence in seiner Forschung ab ? Mario Trapp: Für uns ist ganz wichtig, dass wir das Thema holistisch betrachten. Das be deutet, dass wir wirklich das gesamte System in den Blick nehmen und Enginee- An diesem Punkt sind wir gerade bei der KI: Wir wissen, wie man eine KI-Funktion erstellt. Aber jetzt ist die Frage, welche En- gineering-Prozesse und -Methoden nötig sind, damit dieses KI-System gewisse Eigen- schaften tatsächlich vorhersehbar nachwei- sen kann, vor allem Sicherheit, aber auch Qualität. Welche Bereiche hat das Fraunhofer IKS mit seiner Forschung an Safe Intelligence vor allem im Blick ? Simon Burton: Wie schon mehrfach er- wähnt die Mobilität in allen ihren künftigen Interview

9 FLEXILIENCE Die Kernanforderungen an autonome Systeme in Einklang bringen Das Fraunhofer IKS hat einen Ansatz entwickelt, um Sicherheit, Performanz und Zuverlässigkeit in Cloud-basierten Kognitiven Systemen zu optimieren – je nach aktueller Situation und konkreter Anwendung: Flexilience. Bitte lesen Sie den Artikel (in englischer Sprache) auf unserem Blog unter https://safe-intelligence.fraunhofer.de/flexilience SAFETY Paradigmenwechsel auf dem Automobilmarkt ? Auf dem Automarkt liefern sich traditionelle Hersteller und neue Player aus der Softwarewelt ein Kopf-an-Kopf-Rennen. Wer am Ende die Nase vorn hat, entscheidet nicht nur die technologische Innovation, sondern vor allem auch die Sicherheit der Technologien. Bitte lesen Sie den Artikel auf unserem Blog unter https://safe-intelligence.fraunhofer.de/paradigmenwechsel-automobilmarkt UNSICHERHEITSBEWERTUNG BEI DER OBJEKTERKENNUNG Eine erfolgskritische Aufgabe Die Leistung von Deep Neural Networks (DNN) in realen Anwendungen lässt derzeit noch zu wünschen übrig. Ein großes Problem ist die Einschätzung der Unsicherheit. Ein näherer Blick auf Methoden, dieser Herausforderung zu begegnen. Bitte lesen Sie den Artikel (in englischer Sprache) auf unserem Blog unter https://safe-intelligence.fraunhofer.de/uncertainty-estimation-in-object-detection >> BLOG https://safe-intelligence.fraunhofer.de

11 Um diese unbekannten schwierigen Situationen für automatisier- te Fahrsysteme zu erkennen und vorherzusagen, entwickelt das Fraunhofer IKS eine Lösung. Dies erfolgt im Rahmen des vom Bayerischen Staatsministerium für Wirtschaft, Landesentwicklung und Energie geförderten Forschungsteilprojekts »Verlässliche Um- weltwahrnehmung« zum Aufbau des Fraunhofer IKS. Das Erkennen unbekannter Situationen ist kein trivialer Prozess. Denn autonome Fahrsysteme enthalten zahlreiche verschiede- ne Komponenten, wie Fusionseinheiten, GPS-Lokalisierung ein- schließlich Karten, V2X (Vernetzte Fahrzeugkommunikation) und andere. All diese Komponenten, die bestimmte Aufgaben erfüllen, haben einen enormen Einfluss auf das automatisierte Fahrsystem als Ganzes. Die Lösung, an der das Fraunhofer IKS derzeit forscht, sieht vor, dass alle wesentlichen Komponenten und ihre jeweiligen Ver- bindungen schon in der Entwurfsphase des Systems modelliert werden können. Das resultierende System wird dann unter Ver- wendung von Signalausbreitung analysiert, wodurch schwierige, auf Unsicherheit basierende Situationen erkannt werden. Hohe Unsicherheit bedeutet nicht notwendigerweise, dass das System kategorisch einen Fehler macht, aber es bedeutet, dass die spezi- fische Situation zu vielen verschiedenen potenziellen Ergebnissen führen kann. Die Lösung wird als Softwareanwendung implemen- tiert, welche die Umfelderkennung als Signalverarbeitungskette auf Komponentenebene modelliert und anschließend verschiede- ne Ereignisse simuliert. Die mathematischen Berechnungen basie- ren auf logischen Operatoren, Wahrscheinlichkeitsdichte-Vertei- lungen und Konfusionsmatrizen (Positiv-Negativ-Klassifizierung) von Maschinellem Lernen. Um realitätsnahe Ergebnisse zu ermöglichen, beruhen die ver- wendeten Modelle auf physikalischen Messergebnissen, welche jedoch konkrete Anpassungen an das jeweilige System erlauben, zum Beispiel Field-of-View Reichweite eines Sensors. Das Analyse- ergebnis schließlich hebt die Quelle(n) für sicherheitskritische Schwachstellen hervor. Iwo Kurzidem gabe unvollständig oder fehlerhaft ist? Auch hier gilt, dass weder ein Mensch noch ein KI-System auf etwas reagieren kann, das es nicht wahrnehmen kann. Man könnte argumentieren, dass wir nicht blind für unsere eigenen Unzulänglichkeiten sind und des- halb mehr als nur Kamerasysteme zur Wahrnehmung einsetzen. Tatsächlich sind selbstfahrende Autos mit vielen verschiedenen Sensorsystemen ausgestattet, aber wie es bei technischen Gerä- ten oft der Fall ist, hat jedes seine eigenen Vor- und Nachteile. Die schiere Anzahl und Vielfalt der Sensoren allein kann die aleato- rische Unsicherheit, das heißt eine durch ungenaue Messungen verursachte Fehldarstellung der tatsächlichen Umgebung, nicht mindern. Fraunhofer IKS erkennt schwierige Situationen für automatisierte Fahrsysteme Wir wissen jetzt, was schwierige Situationen kennzeichnet und wie ihre einzelnen Bestandteile miteinander verbunden sind. Spe- zifische Problemsituationen sind jedoch nach wie vor unbekannt. Dieses Vorhaben wurde im Rahmen des Projekts Unterstützung des thematischen Aufbaus des Instituts für Kognitive Systeme durch das Bayerische Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert. Blog

13 nen entweder eine Berührung mit dem Menschen zu vermeiden oder möglichst geringen Schaden zu verursachen. Künftig werden hier lernende Systeme zum Einsatz kommen. Diese nutzen die Be- obachtung des Arbeitsraums dafür, das Verhalten der Menschen zu beobachten und sich darauf vorausschauend einzustellen. Da- mit kann der Roboterarm seine Bewegungen trotz »dynamischer Hindernisse« so planen, dass er sich möglichst schnell, energieef- fizient und unter Einhaltung höchster Safety-Anforderungen be- wegen kann. Fahrerlose Transportfahrzeuge in der Intralogistik In Fabrik- und Lagerhallen, in denen fahrerlose Transportfahrzeu- ge (FTF) und gleichzeitig Menschen unterwegs sind, werden FTF deutlich ausgebremst. Das liegt daran, dass bestehende Sicher- ernde Teile. Diese sollen die erforderliche Kontrolle des Produktions- prozesses gewährleisten. Ein gewisses Restrisiko lässt sich aber praktisch nicht ausschließen. Noch problematischer sind Situationen, in denen ein Eingriff in die Anlagen im Produktivbetrieb notwendig ist. Das ist etwa dann der Fall, wenn ein Sensor oder eine mechanische Komponente nachjustiert und gleichzeitig die aktuelle Charge verarbeitet wer- den müssen. So lässt sich ein hoher Ausschuss vermeiden, zum Beispiel in der Lebensmittelindustrie. Kognitive Systeme wären hier in der Lage, auf den Eingreifenden zu reagieren. Das könnte der Fall sein, indem etwa der Bereich der Maschine auf den Men- schen Rücksicht nimmt und die entsprechende Zone mittels eines sensorbasierten Überwachsungssystems bestmöglich absichert. Verlässt der Mensch den kritischen Bereich, stellt sich diese Zone wieder auf Normalbetrieb um. Adaptive Safety könnte hier vor Bei der Mensch-Roboter-Interaktion steht die Sicherheit an erster Stelle. Adaptive Safety sorgt gleichzeitig dafür, dass die Beeinträchtigung der Produktion möglichst gering bleibt. heitssysteme auf Hindernisse wie Menschen und andere FTF re- agieren und deren Fortbewegung stoppen. Aktuelle, zum Teil mit Künstlicher Intelligenz (KI) optimierte Intralogistiksysteme versu- chen deshalb, den Menschen als unberechenbare Komponente möglichst auszuschließen, um höchste Performanz zu erreichen. Ist in Fabrik- und Lagerhallen jedoch ein Mischbetrieb von Men- schen und FTF notwendig, erreichen intelligente Systeme mit Schwerpunkt Adaptive Safety deutlich effizientere Prozesse: Wird das Verhalten sich bewegender Objekte systematisch analysiert und vorausgesagt, kann dies zu einem intelligenten und prozess- optimierten Miteinander führen – und damit zu höherer Effizienz. Produktion: Eingriff bei laufender Maschine Problematisch, aber in manchen Situationen unumgänglich sind Eingriffe in Maschinen und Anlagen im laufenden Betrieb: zum Beispiel das Zuführen von Bahnmaterial wie Papier oder Textilien, aber auch das Einrichten von Maschinen. Die Maschinenrichtlinie sieht hier Maßnahmen vor wie reduzierte Geschwindigkeit oder Drehzahl sowie die garantierte Sicht des Anwenders auf zu steu- allem durch erweiterte kognitive Eigenschaften der Maschine und situationsabhängiges, adaptives Agieren erreicht werden. In der Zukunft: Die kognitive Fabrikhalle Diese Beispiele zeigen, dass Adaptive Safety zu effizienteren Ab- läufen führen kann, und das bei hochgradiger Sicherheit. Auch häufige Probleme wie die Umgehung von Sicherheitseinrichtun- gen durch das Bedienpersonal ließen sich durch eine intelligente Sicherheitsarchitektur verhindern. Aber nicht nur einzelne Maschi- nen und Anlagen könnten von einer Adaptive-Safety-Architektur profitieren, sondern auch die gesamte Fabrikhalle. Safety kann dann durchgängig zum Einsatz kommen, wenn alle Objekte, so- wohl Maschinen als auch Personen, lokalisierbar und deren ak- tuelle Intention erkennbar sind. Dabei kann nicht nur die Safety erhöht werden. Ein kognitives Produktionssystem erkennt auch völlig andere Handlungen wie fahrlässiges oder mutwilliges Ver- halten, wodurch Schaden an der Anlage vermieden wird. Dann wäre nicht nur dem Menschen, sondern auch der Maschine ge- holfen. Michael Stiller Blog

15 Architektur des Frameworks resilientsoa. einen Katalog von allen möglichen Service-In- stanzen, die potenziell lauffähig wären. Aus diesem Katalog kann er beliebige Instanzen auswählen, um einen sicheren und möglichst performanten Systemzustand zu gewährleisten. Jeder Service gehört zu einer gewissen Kate- gorie bzw. einem gewissen Typ. Dieser Service- Typ beschreibt die Schnittstelle, mit deren Hilfe auf Instanzen dieses Typs zugegriffen werden kann. Eine Service-Instanz implementiert die Schnittstelle ihres Typs und kann Abhängig- keiten zu beliebigen anderen Service-Typen definieren, zum Beispiel die Abhängigkeit eines Spurhalteassistenten von der Objekterkennung. Der Service-Manager verwaltet, überwacht und optimiert diese Abhängigkeiten zur Laufzeit. Dabei wird sichergestellt, dass die Abhängig- keiten zu jedem Zeitpunkt zu den in den Sa- fety-Vereinbarungen der Services festgelegten Mindestbedingungen erfüllt sind. Hindernisse sicher erkennen – ein Beispielszenario Nächste Station: Industrie-Szenario Erster Anwendungsfall ist das Szenario eines einfachen autono- men Fahrzeugs, welches über zwei Varianten einer Hinderniser- kennung verfügt: eine kamerabasierte Erkennung mithilfe eines künstlichen Neuronalen Netzes oder Convolutional Neural Net- work (CNN) und eine auf LIDAR basierende Detektion, also eine Messung durch Laserstrahlen. Im Beispielszenario bewegt sich das Fahrzeug auf einer Straße und bremst, sobald es ein Hindernis auf der Fahrbahn erkennt. Hierbei wird angenommen, dass die Reichweite der optischen Hinderniserkennung größer als die des verbauten LIDAR ist, so- fern gewisse Rahmenbedingungen (vor allem Konfidenz-Kriterien) eingehalten werden. Abhängig von den aktuellen Rahmenbedin- gungen des CNN werden die Daten des CNN oder des LIDAR verwendet. Anhand dieses Use Case soll das sichere Umschalten zwischen verschiedenen Konfigurationen (CNN / LIDAR) erforscht und optimiert werden, um das Gesamtsystem zu jedem Zeitpunkt safe und dennoch möglichst performant zu halten. Die Implementierung des Use Case verwendet das entwickelte Framework resilientsoa für die Orchestrierung der Dienste. Hier werden die für den Anwendungsfall spezifischen Dienst-Typen und Dienste registriert. Zusätzlich werden Safety- und Perfor- manz-Ziele sowohl für das Gesamtsystem als auch für einzelne Dienste konfiguriert. Die sichere Orchestrierung der Dienste über- nimmt das Framework. Nach diesem recht einfachen ersten Anwendungsfall als Proof of Concept hat sich das Team der Forscherinnen und Forscher zum Ziel gesetzt, das Framework in einem weiteren Anwendungsbe- reich mit einer komplexeren Umgebung zu testen. Die Wahl fiel auf einen Use Case aus dem industriellen Umfeld mit fahrerlosen Transportsystemen (FTS oder Automated Guided Vehicles, AGVs), bei dem ROS2 als Plattform und Webots als Simulator eingesetzt werden. In diesem breiter angelegten Szenario kommen mobile Roboter zum Einsatz, die den Produktionsprozess über mehrere Industriehallen hinweg unterstützen. Zukünftig beabsichtigen wir, gemeinsam mit industriellen Part- nern resilientsoa sowohl in der Simulation als auch in der Praxis weiter zu erproben und auszubauen. Dabei wollen wir unter an- derem die Flexibilität unseres Ansatzes in verschiedenen Anwen- dungen angehen. Florian Wörter Dieses Vorhaben wurde im Rahmen des Projekts Unterstützung des thematischen Aufbaus des Instituts für Kognitive Systeme durch das Bayerische Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert. Blog

SAFETY NEXT IN DER PRAKTISCHEN ANWENDUNG SERVITIZATION Serviceorientierte Architekturen ermöglichen es, aus Basisdiensten übergeordnete Anwendungen zusammen zu- stellen. Zum Beispiel für die medizinische Versorgung. VERNETZTE SYSTEME Sie müssen reibungslos ineinandergreifen sowie sicher und zuverlässig ihre Aufgaben erfüllen. Etwa in der Produktion. AUTONOME SYSTEME Autonome Kognitive Systeme nutzen Maschinelles Lernen, um in unzähligen vorhersehbaren und unvorher- sehbaren Umgebungssituationen agieren zu können. Eine Grundvoraussetzung für autonomes Fahren. . DER NUTZEN VON SAFETY NEXT Wegbereiter von KI in sicherheits- kritischen Systemen Weniger Stillstand von Maschinen Geringerer Produktions- ausschuss 17 Infografik

19 ausgestalten, wird sehr großen Einfluss ha- ben, wie wohl wir uns dort als Institut füh- len werden, was wir entwickeln und wie kreativ wir sein können. Am aktuellen Standort gibt es seit 2020 einen Workshop-Raum für agiles Arbeiten. Welche weiteren Pläne hast Du ? Wir sind in der glücklichen Situation, dass » Wir wollen das bestmögliche Arbeits- umfeld schaffen, damit sich der Mitarbeitende entfalten, weiterentwickeln und optimal mit anderen zusammen- arbeiten kann. « Sabine Sickinger erst in den nächsten 10 bis 15 Jahren zu uns kommen. Daher beobachten wir, wie Trends die Menschen und die Arbeitswelt von mor- gen beeinflussen. Nach allem, was wir wis- sen und was Zukunftsforscher sagen, wer- den sich diese Anforderungen massiv von denen beispielsweise in den 70er- und 80er- Jahren unterscheiden. Kommunikation, Fle- xibilität, Sich-Wohlfühlen und Nachhaltig- keit haben eine ganz andere Wertigkeit. Das wird sich im neuen Gebäude widerspiegeln. Wie weit sind die Planungen ? Wir stehen noch ganz am Anfang der Bau- phase. Aktuell sind wir dabei mit Vertretern unserer Mitarbeitenden, die Anforderungen an das Gebäude zu erarbeiten. Was soll uns das Gebäude mitgeben ? Welche Rahmen- bedingungen benötigen wird ? Was wollen wir dort vorfinden ? Wie wir das Gebäude Dr. Sabine Sickinger ist Direktorin Organisationsstrategie und Administration des Fraunhofer-Instituts für Kognitive Systeme IKS. wir am aktuellen Standort Experimentier- räume und -flächen haben, da die Büros ohnehin saniert werden müssen. Wir sehen das als Chance, ein Konzept zu entwickeln und auszuprobieren, aus dem wir lernen können. Das geht mit dem bereits eingelei- teten Kulturwandel einher, der sich nun in der Raumplanung fortsetzt. Nehmen wir das Beispiel gemeinsam genutzter Flächen. Was bedeutet das konkret ? Wo brauche ich eventuell Telefonboxen für vertrauliche Ge- spräche ? Wo benötige ich Schließfächer? All das können wir jetzt ausprobieren. Das bedeutet, es sind weitere agile Arbeitsflächen geplant ? Ja. Wir werden einen Mix aus »normalen« Büroarbeitsflächen haben, aber auch Pro- jekt flächen, auf die sich Mitarbeitende aus verschiedenen Bereichen für eine bestimm- te Zeitspanne einbuchen können. Das er- möglicht es uns, genau die Mitarbeiter an einem Ort zusammenzuholen, die an die- sem Projekt arbeiten, und die Grundlage für einen guten Austausch zu schaffen. Noch eine abschließende Frage: Worauf freust Du Dich im Jahr 2021 besonders ? Es gibt eine ganze Menge Dinge, auf die ich mich freue. Ich freue mich, wenn wieder spontane Treffen mit Familie und Freunden möglich sind. Darauf, neue Mitarbeitende nicht mehr remote onboarden zu müssen. Und ich freue mich darauf, dass die Mehr- fachbelastung, die viele Mitarbeitende der- zeit haben, wieder wegfällt und eine gewis- se Normalität einkehrt, auch wenn das eine andere sein wird. Miriam Friedmann Interview

21 Projektpartner Hitachi Ltd. Projektlaufzeit 06/2019–03/2020 Branche Automobilindustrie Firmenhauptsitz Tokio, Japan Zahl der Angestellten 35 631 (Stand 2017) Eingebettete System agieren künftig nicht mehr eigenständig, sondern vernetzen sich zu Ökosystemen von cyberphysischen Systemen (Cyber-Physical Systems of Systems, CPSoS). Damit diese miteinander interagieren können, benötigen sie eine ge- eignete Cloud- und Server-Infrastruktur. Den Vorteilen von Cloud- Lösungen wie einer größeren und kostengünstigeren Rechnerleis- tung und einer einfacheren Wartung stehen jedoch auch Nach- teile gegenüber, die gerade in sicherheitsrelevanten Umfeldern zur Herausforderung werden. Dazu zählen die Ausfallsicherheit und Zuverlässigkeit von Cloud-Lösungen, die beispielsweise durch einen Verbindungs abbruch beeinträchtigt werden können. Um zu erforschen, wie die Vorteile des Cloud Computing ge- nutzt und gleichzeitig die Verlässlichkeit sichergestellt werden können, sind die Hitachi Group und das Fraunhofer IKS eine For- schungskooperation eingegangen. Cloud-basierte Systemarchitektur mit speziellem Safety-Konzept Ziel der Zusammenarbeit war es, eine Architektur für resiliente Cloud-basierte Steuerungs systeme zu entwickeln, die zuverlässig und in Echtzeit auf Fehler reagiert und sich eigenständig optimiert. Als beispielhafter Anwendungsfall wurde ein automatisierter Park- service für Fahrzeuge (Automated Valet Parking, AVP) gewählt. Im Rahmen dieses Szenarios entwarfen Hitachi Ltd. und das Fraunhofer-Institut für Kognitive Systeme IKS zunächst das Architektur design. Aus diesem wurden anschließend die An- forderungen an das Steuerungssystem sowie seine potenziellen Schwachstellen abgeleitet. Ergänzend wurde vom Fraunhofer IKS ein Monitoring- und Recovery-Konzept entwickelt, welches die Sicherheitsherausforderungen effizient löst und drei wesentliche Aufgaben erfüllt: 1 2 3 Überwachung der relevanten Systemeigenschaften Definition von Plänen zur Wiederherstellung der Funktionen im Fehlerfall (z. B. bei Verbindungsabbruch) Gewährleistung der Sicherheit bei gleichzeitig höherer Effizienz Das Architektur- sowie Sicherheitskonzept wurde abschließend in einer vom Fraunhofer IKS eigens erstellten Simulationsumgebung zur Analyse und Evaluierung des Systems getestet. Resiliente Steuerungsarchitektur für unterschiedliche Use Cases in der Industrie Ergebnis des gemeinsamen Forschungsprojekts der Hitachi Ltd. und des Fraunhofer IKS ist eine Architektur für sichere und effizi- ente Cloud-/Server-basierte Steuerungssysteme. Diese wurde im Rahmen des Projekts anhand des Use Case Automated Valet Par- king umfassend bewertet, lässt sich jedoch künftig auch auf an- dere Anwendungsszenarien übertragen. Miriam Friedmann Projekte

23 AUSZEICHNUNG IN NEW YORK Best Paper Award für Forscher des Fraunhofer IKS Vier Wissenschaftler des Fraunhofer IKS gewannen im Februar 2020 den Best Pa- per Award beim Safe AI Workshop. Adri- an Schwaiger, Maximilian Henne, Karsten Roscher und Gereon Weiß wurden für ihre Forschung zur Messung von Uncertainties in Deep Neural Networks ausgezeichnet, nachdem Adrian Schwaiger die Ergebnisse beim Workshop in New York präsentiert hatte. Der Preis wurde vom anwesenden Fachpublikum vergeben. VERDIENTER RUHESTAND NACH 17 JAHREN Rudi Knorr verabschiedet sich vom Institut Der langjährige Institutsleiter des Fraunhofer IKS, Prof. Dr.-Ing. Rudi Knorr, hat sich zum 1. Oktober 2020 in den Ruhestand verabschiedet. Er leitete 17 Jahre lang das Fraunhofer ESK, aus dem das Fraunhofer IKS hervorgegangen ist. Zuvor war er bereits acht Jahre bei der Fraunhofer-Gesellschaft tätig. Un- ter seiner Leitung baute das Fraunhofer ESK unter anderem seine Forschungs- kompetenzen rund um das Thema der Breitbandkommunikation aus. Instituts- leiter apl. Prof. Dr. Mario Trapp: »Ich danke meinem Vorgänger, Prof. Dr.-Ing. Rudi Knorr, sehr herzlich für seinen unermüdlichen Einsatz, mit dem er das Institut von seinen Anfängen bis heute geprägt hat, und wünsche ihm für seinen neuen Lebensabschnitt alles erdenklich Gute und Gesundheit.« FRAU NHOFER SOLUTI ON DAYS DREI TAGE KREATIVER LÖSUNGEN Das Fraunhofer IKS bei den Fraunhofer Solution Days #WeKnowSolutions F R A U N H O F E R V S C O R O N A Bei den Fraunhofer Solution Days Ende Oktober hielt Philipp Schleiß einen Vortrag zur Absicherung KI-basierter Fahrzeuge. An drei Tagen wurden die Themenfelder Gesund- heit, Digitalwirtschaft, Anlagen- und Maschinenbau sowie Mobilität näher beleuch- tet. Die Fraunhofer-Gesellschaft organisierte das virtuelle Event als kreative Lösung, um die vielen ausfallenden Messen zu kompensieren. EINE APP GEGEN DIE PANDEMIE FÖRDERUNG WIRD FORTGESETZT Dr. Pocket gewinnt Corona-Innovationscontest Finanzielle Unterstützung durch die Bayerische Staatsregierung Zu Beginn der Corona-Krise im Frühjahr 2020 engagierte sich auch das Fraunhofer IKS für die Bekämpfung der Pandemie: Im Rahmen der Ak- tion »Fraunhofer vs. Corona« setzte sich Anfang April bei einem App-Wettbewerb »Dr. Pocket« als Gewinner durch. Die App hilft bei Unsicher- heiten, ob der Nutzer bei bestimmten Sympto- men wie Hustenreiz zum Arzt gehen sollte. Der Freistaat Bayern fördert den thematischen Aufbau des Fraunhofer IKS seit September 2019. Im Dezember 2020 wur- de nun eine zweite Fördertranche über 20,1 Millionen Euro bewilligt. Ziel beider Projekte ist es, bis Ende 2024 Grundlagen für die Absicherung von KI-Technologien zu erarbeiten. Nur so können diese bedenkenlos und zuverlässig in sicherheits- kritischen Systemen, etwa in autonomen Fahrzeugen, der Me- dizintechnik oder Industrie 4.0, eingesetzt werden. Kurz notiert

Mit der Safe X Community startet das Fraunhofer IKS 2021 ein neues spannendes Projekt. Ziel des Netz werks ist es, gemeinsam die Herausforderungen verschiedener industrieller Anwendungen zu identi- fizieren, denen mit dem Einsatz intelligenter und ver- netzter Systeme begegnet werden kann. Unterstützt durch das technologische Know-how von Fachleu- ten des Fraunhofer IKS werden im vorwettbewerb- lichen Rahmen Lösungen für Prozesse und Produkte erarbeitet und den Mitgliedern exklusiv zur Verfü- gung gestellt. Damit bietet die Safe X Community neben einer Orientierung für strategische Entschei- dungen auch eine Plattform für den Austausch mit anderen Industriepartnern. Gleichzeitig verschafft die Safe X Community ihren Mitgliedern Sichtbar- keit für spezielle technologische Themen auch auf politischer Ebene. Die Safe X Community by Fraunhofer IKS Ein neues Netzwerk für den Austausch zwischen Unternehmen und Wissenschaft geht an den Start. Sie wollen Teil der Safe X Community werden? Nehmen Sie Kontakt zu uns auf und erhalten Sie erste Informationen vorab: bd@iks.fraunhofer.de oder Telefon +49 89 547088-340 25 Community