Prompt engineering

Die Welt der künstlichen Intelligenz (KI) verändert sich rasant, und neue Tools entstehen in atemberaubender Geschwindigkeit. Generative Modelle haben sich schnell zu bahnbrechenden Tools entwickelt, die in der Lage sind, neue Inhalte wie Geschichten, Gespräche, Bilder und sogar Musik zu produzieren. Öffentlich zugängliche generative KI-Anwendungen erstellen mittlerweile Ergebnisse, die von menschlichen Leistungen kaum zu unterscheiden sind.

Und es wird nur noch größer und besser werden. Eine Umfrage von McKinsey aus dem Jahr 2022 zeigt, dass sich die Einführung von KI in den letzten fünf Jahren mehr als verdoppelt hat und die Investitionen in KI dramatisch zunehmen. An der Spitze der Innovation im Bereich der generativen KI steht das Prompt Engineering – eine wichtige Disziplin, die generative KI-Systeme dazu anleitet, die gewünschten Ergebnisse zu erzielen.

Anfang dieses Jahres wurde Air Canada für die schlechten Ratschläge ihres Chatbots haftbar gemacht, obwohl die Fluggesellschaft behauptete, dass das LLM für seine eigenen Handlungen verantwortlich sei. Und dann gab es da noch den Fall, in dem ein Scherzkeks einen Chevrolet-Chatbot dazu brachte, ihm ein Auto für einen Dollar zu verkaufen. Schlechte Kundenserviceerfahrungen können schon nach einer einzigen schlechten Interaktion zu Umsatzverlusten führen. Untersuchungen des Qualtrics XM Institute haben ergeben, dass schlechter Kundenservice insgesamt zu Verlusten in Höhe von 3,7 Billionen Dollar pro Jahr führen kann. Und die interne Nutzung von Chatbots auf Basis von LLMs nimmt zu, was manchmal zu Fehlschlägen führt, wie ein weiterer Fall von Samsung-Mitarbeitern zeigt, die unwissentlich vertrauliche Daten an ChatGPT weitergaben, als sie es um Hilfe bei ihren Aufgaben baten.

Dies zeigt, wie wichtig eine sorgfältige Prompt-Entwicklung ist, um solche Fehler zu vermeiden. Die Erstellung von Prompts, die KI-Modelle effektiv steuern, erfordert Kreativität, Experimentierfreudigkeit und ein solides Verständnis der Nutzerbedürfnisse. Angesichts der rasanten Fortschritte im Bereich der generativen KI ist es außerdem von entscheidender Bedeutung, sich über die neuesten Trends und Techniken auf dem Laufenden zu halten, um das volle Potenzial dieser Modelle wirklich zu verstehen und auszuschöpfen.

SICH ENTWICKELNDE TRENDS

Mit der steigenden Nachfrage nach KI-gesteuerten Lösungen wachsen auch die Herausforderungen im Zusammenhang mit Prompt Engineering. Die Anpassung an sich entwickelnde Trends und Techniken im Prompt Engineering und bei Konversationsmodellen ist unerlässlich, um in der KI-Landschaft wettbewerbsfähig zu bleiben.

SPS hat Prompt Engineering als wichtigen Bestandteil seiner KI-Strategie übernommen und nutzt es, um innovative Lösungen zu liefern, die das Kundenerlebnis neu definieren. Durch umfangreiche Experimente und Lernprozesse hat SPS erkannt, wie wichtig es ist, Prompts zu verfeinern, um sie an bestimmte Anwendungsfälle und Benutzerpräferenzen anzupassen. 

Die Übersetzungen waren für einen Telekommunikations-Supportmitarbeiter nicht angemessen, da sie zu formell und roboterhaft klangen – ihnen fehlte die emotionale Note. GPT lieferte gelegentlich unnötige Erklärungen zusammen mit den Übersetzungen. Bei einem zweiten Versuch wurde die Eingabeaufforderung verfeinert, um GPT mehr Kontext zu liefern, und es wurde angewiesen, die Rolle eines erfahrenen deutschen Kundendienstmitarbeiters anzunehmen (siehe Tabelle). Die Qualität der Übersetzungen verbesserte sich zwar in Bezug auf Relevanz und Gefühl, aber GPT generierte weiterhin nicht erforderliche Informationen und versuchte gelegentlich, auf die vietnamesischen Anweisungen zu antworten, anstatt sie auf Deutsch zurückzuübersetzen.

Bei weiteren Versuchen wurden zusätzliche Anpassungen vorgenommen, um GPT anzuweisen, nicht auf die vietnamesischen Anweisungen zu antworten, sondern sie nur auf Deutsch zu paraphrasieren. Mit klareren Anweisungen verbesserten sich die Übersetzungen von GPT hinsichtlich Relevanz, Tonfall und Konsistenz erheblich, was den Erfolg bei der Überwindung von Sprachbarrieren demonstrierte. Durch iteratives Prompt Engineering und die Bereitstellung eines klaren Kontexts gelang es SPS, die Genauigkeit und Natürlichkeit der Übersetzungen erheblich zu verbessern. 

Diese Beispiele zeigen, wie wichtig klare und iterative Eingabeaufforderungen sowie Kontextinformationen sind. 

ERFAHRUNGEN - DATENEXTRAKTION

Bei einem anderen Projekt zur Datenextraktion aus französischen Rechtsdokumenten gab es aufgrund unklarer Projektregeln und komplexer Ausgabevorgaben echte Herausforderungen. Das Team gliederte die Aufgabe in kürzere Anweisungen und lieferte zu jeder Eingabeaufforderung detaillierte Informationen. Das erste Beispiel zeigt, wie erfolgreich eine gute Eingabeaufforderungsgestaltung und eine klare Umschreibung des Kontexts für das positive Ergebnis des LLM sind. Das zweite Beispiel unterstreicht die Bedeutung präziser Anweisungen und des Verständnisses der Projektregeln, um eine genaue Datenextraktion aus juristischen Dokumenten zu erreichen. Wie bei einem physischen Team ist es wichtig, Aufgaben genau zuzuweisen, die Komplexität durch Aufgliederung der Aufgaben zu reduzieren und die erwarteten Ergebnisse und Ziele detailliert zu kommunizieren.