From Theory to Practice: Erfolgreicher Start unserer Workshop-Reihe

Letzte Woche haben wir unsere Workshop-Reihe „BLISS x dida” gestartet. Was als Idee begann, um die Lücke zwischen KI-Forschung und KI in Industrieprojekten zu schließen, entwickelte sich schon in der ersten Session zu einem vollbesetzten Raum mit über 90 neugierigen Köpfen an der TU Berlin.

Ein großes Dankeschön an Reduan Achtibat vom Fraunhofer HHI für die Leitung unseres ersten Workshops: „Opening the Black Box with LRP”. Reduan gab uns einen tiefen Einblick in Explainable AI (XAI) für LLMs. In einer Welt, in der LLMs oft als Black Boxes angesehen werden, sind Workshops wie dieser entscheidend für den Aufbau sicherer, zuverlässiger und steuerbarer KI-Systeme.

Zentrale Erkenntnisse für die Teilnehmenden unserer Live-Coding-Session:

• Rückverfolgung der Argumentationskette von den Tokens bis zur Vorhersage mittels LRP
• Identifizierung, wie bestimmte Aufmerksamkeitsköpfe Informationen während des kontextbezogenen Lernens abrufen
• Eingreifen in latente Repräsentationen, um die Generierung zu steuern

Zu verstehen, warum ein LLM eine Entscheidung trifft, ist genauso wichtig wie die Entscheidung selbst.

Das war eine tolle erste Sitzung unserer Workshop-Reihe. Sie dürfen auf die nächste Sitzung gespannt sein, die bereits in den nächsten Wochen folgen wird!