Ich hatte auch mal überlegt, mit AnythingLLM zu experimentieren, bin dann aber doch zu dem Schluss gekommen, das Ganze für meinen NAO V6 und den Sanbot ELF über die OpenAI-API zu entwickeln.
Den Sanbot müsste ich mal komplett überarbeiten. Dort war die KI vorwiegend für Kommunikation verantwortlich.
Beim NAO ist der Stand deutlich aktueller und mit den Verzögerungen durch API-Aufruf, Verarbeitung und Antwortausgabe kann ich gut leben,... der rennt ja nicht durch die Gegend.
Inklusive Entwicklung habe ich hier bisher keine 20 Euro investieren müssen. Die Kosten bleiben dabei überschaubar, weil ich überwiegend Mini-Modelle nutze, bei denen selbst größere Tokenmengen im Vergleich zu großen Modellen kaum ins Gewicht fallen. Für Kommunikation, Befehlsinterpretation und Bildanalyse reicht das meiner Ansicht nach völlig aus.
Im Augenblick nutze ich das Ganze für Kommunikation, Bewegungsaufforderungen, Bild- bzw. Objekterkennung, zusätzlich Whisper für die Spracherkennung sowie einen Web-Agenten für aktuelle Informationen.
Whisper (funktionierte immer noch schneller und besser als aktuelle Modelle und kann direkt OGG) ist für mich vor allem deshalb interessant, weil der NAO in meinem Setup keine passende direkte oder cloudgebundene Spracherkennung mitbringt, wie ich sie beim Sanbot nutzen konnte.
Ist natürlich ein Traum, wenn man sich überlegt, welchen Aufwand man noch vor ein paar Jahren betreiben musste, um bei den Bots so etwas wie „Intelligenz“ zu simulieren, die sie am Ende nicht einmal annähernd hatten. Nachteilig ist natürlich das ganze Thema KI bezüglich Energieverbrauch, Speicherbedarf etc.
Gruß André
Zitieren
Zitat von Andre_S
Lesezeichen