Page Index Toggle Pages: 1 Send TopicPrint
Sticky Topic AI Chat (Read 210 times)
Phoner Admin
YaBB Administrator
*****
Offline



Posts: 11594
Location: Germany
Joined: 12. Oct 2003
Gender: Male
AI Chat
30. Jan 2025 at 16:02
Print Post  
Nach das Thema Künstliche Intelligenz gerade in Mode ist, wollte ich mich auch etwas mehr damit beschäftigen. 
Bisher unterstützt ja PhonerLite bereits das Transkribieren per Whisper. Aber eine Art Chat fehlte bisher und funktioniert auch immer noch nicht richtig.
Ziel sollte es sein, dass man per Script einen eingehenden Anruf annehmen kann und per TTS (Text To Speech) eine Ansage einspielen kann. Das geht soweit auch jetzt schon. Langfristig soll die Sprache des Anrufers transkribiert werden und dieser Text als Eingabe an ein KI-Modell übergeben werden. Die Antwort des KI-Modells geht dann wieder an per TTS an den Anrufer zurück.
Aber bis dahin ist es noch ein langer Weg.

Momentan kann man in der aktuellen Beta-Version entweder Google Gemini (API-Key wird benötigt) nutzen, oder lokal im Netz (oder auf dem gleichen PC) ein Ollama (https://ollama.com/). Unter Optionen/AI kann man entsprechendes konfigurieren und auch testen.

Im Script gibt es den neuen Befehl "Ask". Man kann auch "AskSay" nutzen, dann wird die Antwort gleich per Sprache ausgegeben.
  
Back to top
WWW  
IP Logged
 
PBerre4
YaBB Newbies
*
Offline


Phoner is great!

Posts: 45
Joined: 24. Jul 2023
Re: AI Chat
Reply #1 - 30. Jan 2025 at 17:43
Print Post  
Wenn ich noch etwas ergänzen darf:

Es wäre gut, wenn man die KI auch ausschließlich offline nutzen kann (die Internetverbindung wird als wirklich nur für die Audioübertragung und Verbindung des SIP-Accounts verwendet).
Sodass also extern keinerlei Daten an fremde Server übertragen werden.

Zumindest als opt-in: Also dass man die Wahl hat
* höhere Genauigkeit und online (falls das online geplant ist)
oder
* Privatsphäre-freundlich und alles ausschließlich offline dafür vielleicht weniger genau?
  
Back to top
 
IP Logged
 
Phoner Admin
YaBB Administrator
*****
Offline



Posts: 11594
Location: Germany
Joined: 12. Oct 2003
Gender: Male
Re: AI Chat
Reply #2 - 30. Jan 2025 at 19:21
Print Post  
Genau deshalb wird ja auch Ollama unterstützt - das kannst du lokal installieren.
  
Back to top
WWW  
IP Logged
 
PBerre4
YaBB Newbies
*
Offline


Phoner is great!

Posts: 45
Joined: 24. Jul 2023
Re: AI Chat
Reply #3 - yesterday at 11:42
Print Post  
Eventuell könnte man auch von diesem Projekt etwas brauchbares übernehmen:

https://github.com/k2-fsa/sherpa-onnx

Sollte mit der Lizenz kein Problem sein?
  
Back to top
 
IP Logged
 
Page Index Toggle Pages: 1
Send TopicPrint