Erfahrungsbericht Erstellung eines Makler KI Chatbots mit Chatbase

Wenn über KI im Makler Kontext gesprochen wird, werden häufig die Generierung von Objekt- und Lagebeschreibungen, die Online Wertermittlung von Immobilien und die Verbesserung von Bildern mit einer Schönwetter-Funktion genannt. Das sind sicher erste tolle Anwendungsfelder für KI. Ich wollte aber der Frage nachgehen, ob die über eine sog. GPT-Erweiterung mögliche Fütterung von ChatGPT mit unternehmensspezifischen Informationen Mehrwerte für Kunden und Mitarbeiter generieren kann. Um hierauf eine Antwort zu finden, habe ich einen ImmoKaiser Podcast KI Assistenten erstellen, der alle möglichen Fragen zu den bisher aufgezeichneten 16 Podcast Episoden beantwortet.

Für welche Technologie ich mich entschieden habe

Gestartet bin ich mit einer GPT-Erweiterung direkt in meinem OpenAI Account. Für aktuell 20$ pro Monat bekommen Anwender schon die Funktion freigeschaltet, ihren eigenen GPT zu erstellen. Für ein paar Dollar mehr, kann man GPTs dann auch in Teams bearbeiten, wofür wir uns ebenfalls entschieden haben.

Ich habe mich dann aber gegen die eigene GPT-Erweiterung bei OpenAI entschieden, da es hier den entscheidenden Nachteil gibt, dass ich das nicht auf meiner Website einbinden kann. Lösungen wie Chatbase, botsonic und Langdock schließen diese Lücke mit ihren Chatbots, mit denen trainierte KI auch Website Nutzern verfügbar gemacht werden kann. Da ich Chatbase bereits von mehreren Anwendungsfällen im Makler Ökosystem kannte und um die positive Resonanz weiß, habe ich mich für dieses Tool entschieden. Für DSGVO kritische Anwendungsfälle erscheint Langdock eine interessante Lösung zu sein, zumal hier auch mögliche Quellsysteme zahlreicher sind (siehe unten). 

Wie bin ich bei der Einrichtung des Chatbots vorgegangen bin

1. Daten importieren
   In meinem Fall habe ich die Transkripte der bis Ende April 16 veröffentlichten Folgen per txt Datei hochgeladen und die Website meines Podcast Hosting Anbieters (Podigee) angegeben, in dem die Shownotes und Kapitalmarken enthalten sind. Darüber hinaus habe ich ein Link-Verzeichnis mit allen Folgen und den jeweiligen Links zu den Hosting Plattformen per PDF hochgeladen.
2. Training der KI
   Die ersten Abfragen der GPT-Erweiterung zeigen bereits, in welchen Bereichen die KI überzeigende Resulte liefert und in welchen Bereichen nachgesteuert werden soll. Die Nachsteuerung kann dann u.a. durch eine Überarbeitung der Antworten und eine Anpassung der Instruktionen erfolgen.
3. Anpassung von Verhalten und Aussehen
   Aufgrund der Testergebnisse habe ich z.B. bei mir die folgenden Anpassungen vorgenommen:
   • Instruktion, bei jeder Antwort einen weiterführenden Link bereitzustellen
     Ich habe die KI z.B. instruiert nach Möglichkeit zu jeder Antwort einen Link mit weiterführenden Informationen wie z.B. der jeweiligen Podcast-Folge mitzugeben, mit dem Ziel, die Abrufzahlen der Pods zu steigern. Für die Frage, wie ich als Gast in den Podcast komme, habe ich die KI z.B. instruiert, einen Meeting Link zu mir bereitzustellen. Das funktioniert tatsächlich weitgehend gut und ist sicher nicht hinderlich, die Konversionsrate zu steigern.
   • Instruktion, nur Antworten auszuliefern, bei der sich die KI sicher ist. Spekulative Äußerungen werden untersagt.
     Bei einigen Testfragen wie z.B. "welche Episode folgte auf diese" fiel auf, dass die KI halluzinierte, sich also Podcast Gäste ausdachte, die es gar nicht gab. Dem steuerte ich entgegen, indem ich in den Instruktionen klarstellte, dass nur auf vorhandene Informationen zugegriffen werden soll und die KI sich sicher sein soll, dass die Antwort richtig ist. Spekulative Äußerungen wurden untersagt.
   • Das Aussehen des Chatbots kann entsprechend des eigenen Corporate Designs mit Farben und Bildern angepasst werden.
4. Integration meiner Tools
   
   Neben statischen Dokumenten bieten alle Anbieter Schnittstellen zu Drittanbietern. Bei Chatbase ist interessant, dass als Datenquelle neben einer API sowohl auf Google Drive als auch auf Notion zugegriffen werden kann. Botsonic punktet mit einer Confluence Integration von Atlassian. Langdock bietet alle diese Integrationen und hat zudem angekündigt, demnächst Microsoft OneDrive als Datenquelle bereitzustellen. Beim Output bieten sowohl Chatbase als auch botsonic Anbindungen zu Slack, WhatsApp und Zapier. Chatbase hat noch eine direkte Anbindung zu HubSpot im Köcher, botsonic dafür zu Zendesk.
   

   Datenquellen	Chatbase	botsonic	Langdock
   API
   PDF
   Weblinks
   Google Drive
   Notion
   Confluence
   MS OneDrive
   Slack
   MS Teams
   Websuche

5. Verfolgung von Konversationen
   
   Durch das Verfolgen von Konversationen kann in der Admin-Konsole nachvollzogen werden, wie die tatsächliche Nutzung des Chatbots ist. Sehr interessant ist auch, wie sicher sich die KI mit ihren Antworten ist. Sie gibt zu jeder Antwort einen sog. "Konfidenz Score" aus. Zusätzlich können Antworten der KI korrigiert werden, um das gewünschte Verhalten in der Zukunft zu ändern. Das ist dann Teil eines laufenden Trainings. Die überarbeiteten Antworten werden dann zusammen mit der Frage in einer Q&A Section in der Admin Konsole in das Regelwerk übernommen.

Wie der Bot funktioniert

Ich habe den ImmoKaiser Podcast Assistenten als iFrame eingebettet (s.u.). Sie können den Bot und die Qualität seiner Antworten also gleich testen. Hier habe ich einen Screencast mit einen exemplarischen Fragen und Antworten aufgezeichnet. 

Hinweis zur Einbindung: Der Bot kann alternativ auch per Skript als Chat Bubble auf der rechten unteren Seite der Website eingebunden werden (analog zur HubSpot Chat Bubble, die wir auf dieser Website nutzen).

Welche Erfahrungen ich beim Training und im laufenden Betrieb gesammelt habe

1. Gut lief

• Sehr einfaches und intuitives Setup ohne Coding-Kenntnisse, was die Barriere für eine Nutzung deutlich absenkt.
• Die Qualität der Antworten ist größtenteils sehr beeindruckend.
• Die Antwortzeit ist rasend schnell (obwohl noch nicht einmal GPT-4 Turbo als zugrundeliegendes Modell ausgewählt wurde).
• Einfach auf der Website per iFrame oder Code Snippet integrierbar.
• Kostenfreier Plan zum Testen, für API Zugang und Einsatz von GPT4 bzw. GPT4-Turbo 100 € p.M.
  

2. Folgende Herausforderungen zeigten sich:

• „Halluzinationen“ müssen durch Instruktionen eingedämmt und ggf. im Training korrigiert werden.
• Links müssen über eine Linksammlung mit spezifischen Informationen zu den Links klargestellt werden.
• Mehr Integrationen wären wünschenswert.

Was sind mögliche Anwendungsfälle für Makler?

Dass ich die Podcasts als Spielfeld ausgewählt habe, ist dem Umstand geschuldet, dass ich die Qualität der Antworten der KI sehr gut bewerten kann. Die GPT Erweiterung funktioniert im Ergebnis sehr gut als Podcast Makler Assistent. Eignet sie sich aber für relevante Anwendungsfelder im Makler Umfeld? M.E. ist die Übertragbarkeit auf andere Unternehmensbereiche sehr gut gegeben, in denen viele Informationen verdichtet werden sollen und ein bestimmtes Schema auf ein neues Thema angewendet werden soll. Die Eignung konnte in ersten Tests bereits verprobt werden:

Zusammenfassung

Nach intensiver Beschäftigung mit dem Thema bin ich zu der Überzeugung gelangt, dass bereits mit dem aktuellen Stand der Technik viele Mehrwerte für Makler geboten werden können: 

• Die Qualität der Ergebnisse kann sich schon jetzt sehen lassen. 
• Die Anwendungsfelder für Immobilienmakler sind mannigfaltig.
• Datenschutzkonforme Lösungen sind bereits am Start (natürlich in jedem Fall individuell zu prüfen).
• Allerdings ist die Auswahl der Lösung, das Setup, Training und die Einführung in Ihrem Unternehmen nicht zu unterschätzen. Die KI ist kein Wurfzelt.

Sie möchten sich über den Einsatz von KI in Ihrem Unternehmen mit mir unterhalten? Sehr gerne! Nehmen Sie gerne über das Kontaktformular Ihre Daten oder buchen sich gleich einen ersten unverbindlichen Besprechungstermin.