ML mit Embedded Devices

Ausgangssituation

Die Kunden deutscher Maschinenbauer stehen zunehmend vor dem Problem, dass das Expertenwissen der Maschinenbediener*innen stetig abnimmt. Fachpersonal wird rar, Anlernkräfte ersetzen daher zunehmend Facharbeiter*innen.

KI, insbesondere ML, kann das fehlende Wissen/Erfahrung der Maschinenbediener*innen kompensieren und Einlernzeiten signifikant verkürzen.

Beispiele hierfür wären unter anderem Bäckerei-, Holzbearbeitungs-, und Spritzgussmaschinen, Anlagenbauer im Logistikbereich und viele weitere. In all diesen Maschinen übernimmt in der Regel eine SPS die Steuerungsaufgaben. Der Markt ist sehr preissensibel weshalb ein leistungsfähiger PC mit Grafikkarten für die KI einen Wettbewerbsnachteil darstellt.

Berghof Automation GmbH hat mit seiner Steuerungs/IPC- Generation MC/BC-PI eine Raspberry-PI 4 basierende industrielle Steuerung entwickelt, welche sowohl als Echtzeit-CODESYS-Steuerung wie auch als offene IPC-Lösung verwendet wird. EtherCAT als Standard-IO-Bus und eine Vielzahl an direkt anschließbaren I/O‘s ermöglichen ein breites Einsatzgebiet.

Lösungsidee

Der Einsatz von KI-Beschleuniger-Chips, welche per PCI Express-Schnittstelle an bestehende Rechner wie den Raspberry Pi angebunden werden können, soll signifikant niedrigere Latenzen und Durchsatzraten für unterschiedlichste KI-Anwendungen ermöglichen. Im Kontext von industriellen SPS und Echtzeitanforderungen wurden diese KI-Beschleuniger-Chips bisher nicht explizit evaluiert, weshalb eine genaue Untersuchung in Bezug auf diese Anforderungen essentiell ist. Daher wird im Rahmen des Quick Checks der Hailo-8 KI-Chip näher untersucht und mit reiner CPU-Ausführung sowie dem Google Coral Edge TPU Chip verglichen.

Nutzen

KI-Lösungen bieten ein hohes Innovations- und Kosteneinsparpotential für den Maschinen- und Anlagenbau, jedoch sind diese ohne spezialisierte Hardware nicht effizient einsetzbar auf SPS. Aktuell sind KI-Anwendungen auf SPS noch nicht verbreitet.

Beispiele für mögliche KI-Lösungen, die durch SPS mit spezieller KI-Hardware ermöglicht werden könnten:

• Objekterkennung zur Positionserfassung, Raumüberwachung, etc.
• Personen und Gestenerkennung
• Energieeinsparung durch effiziente Ausführung von KI-Modellen
• Maschinenstillstand reduzieren durch Anomalieerkennung/Predictive Maintenance, um Ausfälle vorherzusagen
• Selbstoptimierende Temperaturregelungen
• Vorverarbeitung von Maschinendaten um Bandbreite zu übergeordneten Systemen zu sparen
• Anwenderunterstützung mit Expertenwissen, um Facharbeiter*innenmangel zu kompensieren und Einarbeitungszeiten verkürzen
• Kollektives Lernen (Maschine A profitiert von Maschine B).

Umsetzung

Für die Analyse des Hailo-8 KI-Chips wurde eine Benchmark Software Suite entwickelt, die KI-Chips hinsichtlich relevanter Metriken analysiert. Zu diesen Metriken gehört unter anderem Latenz und Durchsatz der KI-Inferenz sowie die CPU-Last während der Inferenz. Zudem werden dabei mehrere unterschiedliche Modellarchitekturen für die Tests herangezogen. Die Ergebnisse der Evaluation zeigen, dass das Potenzial von KI-Beschleunigern gegenüber reiner CPU-Ausführung enorm ist, insbesondere was die Effizienz betrifft. Die Kompatibilität und die Nutzerfreundlichkeit variiert jedoch von KI-Chip zu KI-Chip.