Before the Linux Rabbit Hole: Ich wollte nur Light Novels übersetzen

Es gibt Dinge, die legt man erstmal beiseite.

Nicht, weil sie schlecht waren.

Nicht, weil man sie vergessen hat.

Sondern weil das Gehirn irgendwann sagt:

„So. Das war interessant. Jetzt bitte wieder drei Monate komplett woanders hin.“

Bei mir ist das ziemlich normal.

Ich habe keine Hobbys.

Ich habe rotierende Jahreszeiten im Kopf.

Mal Gaming.

Mal Anime.

Mal Manga.

Mal Light Novels.

Mal Technik.

Mal irgendein völlig neues Ding, das morgens um zehn noch keine Rolle spielt und abends plötzlich mein kompletter Charakterbogen ist.

So ungefähr lief das auch nach meinem ersten kleinen Linux-Ausflug mit Xubuntu.

Der alte HP-Laptop hatte Linux bekommen.

Ich hatte meinen ersten kleinen apt install-Zauberspruch gewirkt.

Calibre war plötzlich aus dem Nichts erschienen wie ein digitaler Butler mit Paketquellen.

Und dann?

Dann habe ich Linux erstmal wieder liegen lassen.

Nicht dramatisch.

Nicht endgültig.

Eher so, wie man ein interessantes Buch auf den Nachttisch legt und sich vornimmt:

„Da lese ich morgen weiter.“

Und dann ist plötzlich ein halbes Jahr vorbei.

Erstmal wieder Gaming

Nach meinem ersten Linux-Kontakt landete ich erstmal wieder ziemlich normal in meiner alten Komfortzone.

Gaming.

Windows.

Bekannte Oberfläche.

Bekannte Programme.

Bekannter Ablauf.

Spiel starten.

Updates ignorieren.

Controller suchen.

Fluchen, weil irgendein Launcher schon wieder ein Update will.

Alles wie immer.

Linux war irgendwo im Hinterkopf.

So ein kleiner Gedanke, der ab und zu anklopfte:

„Hey. Weißt du noch? Paketmanager. Terminal. Calibre. Das war irgendwie cool.“

Und ich so:

„Ja ja, später.“

Später ist bei mir ein sehr dehnbarer Begriff.

Manchmal bedeutet es morgen.

Manchmal bedeutet es sechs Monate.

Manchmal bedeutet es: nie, aber mit gutem Vorsatz.

Jedenfalls widmete ich mich erstmal wieder dem Gaming, bis ungefähr Anfang Sommer 2025 die Motivation langsam abdampfte.

Nicht plötzlich.

Nicht mit großem Knall.

Eher so, als würde innerlich jemand die Lautstärke runterdrehen.

Spiele, auf die ich eigentlich Lust haben sollte, lagen herum.

Launcher wurden geöffnet und wieder geschlossen.

Die Bibliothek war voll.

Der Kopf war leer.

Und dann passierte das, was bei mir immer passiert, wenn ein Interesse gerade Pause macht:

Ein anderes tritt aus dem Schatten.

Diesmal waren es wieder Anime.

Manga.

Manhwa.

Light Novels.

Also im Grunde:

Lesen, lesen und nochmal lesen, bis die Augen in Tränen ausbrechen, weil sie den Bildschirm nicht mehr ertragen.

War mir ehrlich gesagt egal.

Wurde einfach weitergelesen.

Man muss ja Prioritäten setzen.

Der Light-Novel-Sog

Irgendwann war ich also wieder voll drin.

Manhwa hier.

Light Novel da.

Eine neue Geschichte angefangen.

Dann noch eine.

Dann vielleicht kurz in eine dritte reinschauen.

Nur mal gucken.

Natürlich.

„Nur mal gucken“ ist bei mir ungefähr so gefährlich wie „ich installiere nur schnell ein Paket“.

Das endet nie bei einem.

Das Problem war nur:

Irgendwann fand ich auf Deutsch kaum noch etwas, das mich wirklich interessierte.

Oder besser gesagt:

Ich fand schon noch Sachen.

Aber nicht genau diese Sachen.

Diese ganz bestimmten Geschichten, bei denen das Gehirn plötzlich sagt:

„Ja. Das da. Sofort.“

Und natürlich lagen viele davon im englischsprachigen Raum.

Jetzt könnte man sagen:

„Dann lies halt auf Englisch.“

Und ja.

Könnte man.

Theoretisch.

Aber ich bin mit Deutsch aufgewachsen.

In der Schule habe ich Englisch nicht gerade geliebt.

Vielleicht habe ich auch ein paar Stunden zu oft geschwänzt, um später selbstbewusst sagen zu können:

„Ach, Englisch lese ich einfach nebenbei weg.“

Nein.

Tat ich nicht.

Ich kann Englisch irgendwie.

Aber ich wollte nicht ständig beim Lesen das Gefühl haben, dass mein Gehirn gleichzeitig Übersetzer, Leser und müder Praktikant ist.

Ich wollte lesen.

Nicht arbeiten.

Also kam irgendwann diese sehr gefährliche Frage:

„Kann man E-Books eigentlich automatisch übersetzen?“

Und da war er wieder.

Der alte Reflex.

Rechner an.

Browser auf.

Suchen.

Recherchieren.

Und plötzlich war ich nicht mehr beim Lesen.

Ich war beim Basteln.

Calibre, dieses alte geniale Biest

Bei meiner Suche landete ich natürlich wieder bei Calibre.

Calibre kannte ich schon gefühlt eine halbe Ewigkeit, nur hatte ich es nie wirklich benutzt.

Dieses Programm sieht aus, als hätte es schon E-Books verwaltet, bevor manche Webseiten überhaupt CSS richtig verstanden haben.

Optisch ist Calibre ein bisschen wie ein Werkzeugkeller.

Nicht hübsch.

Nicht modern.

Nicht „oh wow, was für eine elegante Oberfläche“.

Eher:

„Hier liegt alles. Fass nichts an, wenn du nicht weißt, was es macht.“

Aber genau deshalb ist Calibre irgendwie großartig.

Es wirkt altbacken, aber unter der Haube ist das Ding ein Monster.

So ein Programm, bei dem man merkt:

Das ist nicht entstanden, weil jemand eine schöne App bauen wollte.

Das ist entstanden, weil jemand ein Problem hatte und dann beschlossen hat, einfach das komplette Problemfeld zu unterwerfen.

Und irgendwo in dieser Calibre-Welt fand ich dann ein Plugin.

ebook-translator.

Ein Plugin, mit dem man E-Books satzweise oder abschnittsweise übersetzen lassen konnte.

Google Translate.

DeepL.

OpenAI.

Verschiedene Dienste.

Verschiedene Möglichkeiten.

Und mein Kopf so:

„Moment. Das geht?“

Ja.

Ging.

Nicht perfekt.

Aber erstaunlich brauchbar.

Das Problem war nur:

Viele der brauchbaren Wege kosten Geld.

Nicht unbedingt absurd viel.

Aber auf Dauer eben doch genug, dass mein innerer Geldbeutel die Augenbraue hob.

Und weil ich offenbar nicht einfach akzeptieren kann, dass gute Dienste Geld kosten, kam der nächste Gedanke:

„Kann man das nicht lokal machen?“

Das ist übrigens einer dieser Sätze, bei denen erfahrene Menschen sofort nervös werden.

„Kann man das nicht lokal machen?“

Klingt harmlos.

Ist aber oft der Anfang von drei Wochen Schmerz, 17 Forenbeiträgen und einer neuen Meinung über Treiber.

Lokale KI auf Hardware mit Selbstzweifeln

Damals hatte mein Rechner 16 GB RAM.

Dazu eine RTX 2070 mit 8 GB VRAM.

Das war nicht komplett schlecht.

Aber für lokale KI auch nicht gerade:

„Bitte hier entlang, Herr Kiru, Ihr privates Rechenzentrum wartet bereits.“

Es war eher:

„Ja, ein kleines Modell passt vielleicht rein, wenn du vorher nichts anderes inhalierst.“

Aber ich wollte es versuchen.

Natürlich wollte ich es versuchen.

Also installierte ich LM Studio.

Ja, LM Studio.

Nicht Ollama.

Nicht irgendein besonders eleganter Terminal-Weg.

LM Studio.

Warum?

Weil es für mich damals am einfachsten wirkte.

Und ehrlich gesagt benutze ich es teilweise heute noch lieber.

Fragt mich nicht.

Manchmal entscheidet das Gehirn nicht nach objektiver Schönheit, sondern nach:

„Das Ding hat mich beim ersten Versuch nicht direkt getreten.“

Also LM Studio installiert.

Lokale Modelle geladen.

Qwen.

Gemma.

Mistral.

Llama.

Alles, was irgendwie in meine Hardware passte, wurde ausprobiert.

Natürlich maximal in Größenordnungen, bei denen mein Rechner nicht sofort in den Existenzstreik ging.

12B war damals schon so ein Bereich, bei dem man nicht mehr von Geschwindigkeit sprach.

Eher von geologischer Bewegung.

Schneckentempo ahoi.

Aber es lief.

Irgendwie.

Dann passte ich das JSON-Script vom Calibre-Plugin an, damit es mit meiner lokalen API sprechen konnte.

Und da saß ich dann.

Vor einem lokalen LLM.

Mit einem E-Book.

Und der Hoffnung, dass jetzt Magie passiert.

Passierte auch.

Nur leider eher die Art Magie, bei der der Zauberer aus Versehen die Tischdecke anzündet.

Google Translate lachte leise im Hintergrund

Die Ergebnisse waren …

Wie formuliere ich das freundlich?

Schwierig.

Wenn ich wirklich sehr nett sein möchte, würde ich sagen:

Sie lagen ungefähr zwei bis drei Stockwerke unter dem Niveau einer ganz normalen Google-Übersetzung.

Und das muss man erstmal schaffen.

Google Translate ist nicht perfekt.

Aber wenn man darunter landet, dann steht man schon ziemlich tief im Maschinenübersetzungs-Keller und hört oben jemanden die Tür abschließen.

Manchmal waren die Sätze irgendwie korrekt.

Aber tot.

Manchmal wurde der Sinn nur grob getroffen.

Manchmal klang es, als hätte ein sehr müder Roboter versucht, eine japanische Light Novel über drei Sprachen hinweg durch einen Mixer zu ziehen.

Natürlich kann es auch an mir gelegen haben.

Meine Prompts waren wahrscheinlich nicht gerade Meisterwerke.

Ich war Anfänger.

Ich darf das.

Damals wusste ich noch nicht, wie viel ein Prompt ausmachen kann.

Ich wusste nicht, wie wichtig Kontext ist.

Ich wusste nicht, dass man einem Modell nicht einfach einen Satz hinwerfen und erwarten sollte:

„Hier, mach Literatur draus.“

Das Plugin übersetzte im Grunde abschnittsweise.

Satz für Satz.

Stück für Stück.

Aber Geschichten funktionieren nicht nur aus einzelnen Sätzen.

Sie haben Ton.

Stimmung.

Figuren.

Beziehungen.

Running Gags.

Begriffe, die gleich bleiben müssen.

Kontext, der über mehrere Seiten trägt.

Und genau das fehlte.

Also saß die KI da und übersetzte brav kleine Stückchen Text, ohne wirklich zu wissen, was davor passiert war und was danach passieren würde.

Ein bisschen wie jemand, der mitten in Band 7 einer Light Novel auf Seite 112 einsteigt und dann so tut, als hätte er alles verstanden.

Nett gemeint.

Aber nein.

Rauchen gehen und Kopf rattert

Also tat ich, was ich in solchen Momenten oft tue.

Ich ärgerte mich.

Machte die Kiste aus.

Ging rauchen.

Und während ich da stand, ratterte der Kopf weiter.

Das ist auch so eine unangenehme Eigenschaft meines Gehirns.

Es lässt Dinge nicht einfach liegen.

Es kaut darauf herum.

Wie ein Hund auf einem alten Knochen.

Nicht gesund.

Aber ausdauernd.

Und irgendwann kam der Gedanke:

„Was wäre, wenn die KI mehr Kontext bekommt?“

Nicht nur einen Satz.

Nicht nur einen Absatz.

Sondern ein bisschen Wissen über die Geschichte.

Über Figuren.

Über Ereignisse.

Über Begriffe.

Was, wenn sie vorher und nachher etwas Text sieht?

Was, wenn sie sich wichtige Dinge merkt?

Was, wenn sie nicht wie ein völlig verlorener Praktikant auf Seite 113 steht, sondern wenigstens einen kleinen Spickzettel hat?

Und da war sie.

Die nächste dumme Idee.

Ich baue mir einfach ein eigenes kleines ePub-Übersetzungstool.

Einfach.

Natürlich.

So wie man einfach mal eben einen Schuppen baut und am Ende steht man da mit einem platten Daumen und einem Nagel im Knie.

Ich konnte ja mal ein bisschen Code

Aus meiner Jugend kannte ich noch ein wenig CSS.

Ein bisschen PHP.

Etwas JavaScript.

Minimal C.

Also wirklich minimal.

So minimal, dass C wahrscheinlich beleidigt wäre, wenn es davon wüsste.

Das war außerdem knapp 20 Jahre her.

Aber manches kam mir noch bekannt vor.

Variablen.

Schleifen.

Funktionen.

Dieses Gefühl, dass ein Semikolon entweder nichts bedeutet oder dein komplettes Leben zerstört.

Und dann war da noch ChatGPT.

Ich hatte kurz vorher einen Vertrag bei O2 abgeschlossen, weil ich unbedingt ein Honor Magic V5 wollte, und da gab es ChatGPT für sechs Monate kostenlos dazu.

Also dachte ich:

„Na gut. Fragen wir halt die Maschine.“

Nicht im Sinne von:

„Programmier mir mal eben ein hübsches GUI-Übersetzungstool.“

Das wäre wahrscheinlich gnadenlos schiefgegangen.

Eher als Assistent.

Als Erklärbär.

Als jemand, der geduldig erklärt, warum mein Code gerade aussieht, als hätte ein Waschbär auf der Tastatur getanzt.

Natürlich ist KI nicht perfekt.

Manchmal verwechselt sie einen Pinguin mit einem Panda und schaut dabei sehr überzeugend.

Aber als Begleiter beim Basteln?

Als jemand, der mir Dinge erklärt, Beispiele gibt und mich nicht auslacht, wenn ich zum dritten Mal denselben Denkfehler mache?

Dafür war es erstaunlich hilfreich.

Also fing ich an.

Langsam.

Schleppend.

Mit sehr viel:

„Warum geht das nicht?“

Und noch mehr:

„Ach deshalb.“

Das kleine Übersetzungstool bekommt ein Gedächtnis

Die ersten Versuche waren roh.

Sehr roh.

So roh, dass man sie nicht Tool nennen sollte.

Eher Script mit Zukunftsängsten.

Aber nach und nach entstand etwas.

Ein kleines ePub-Übersetzungstool.

Nichts Hübsches.

Nichts, was man stolz auf GitHub präsentiert und sagt:

„Seht her, meine Architektur.“

Eher:

„Bitte nicht direkt reinschauen, aber es funktioniert manchmal.“

Die Idee war simpel:

Die KI sollte nicht nur einen Absatz bekommen.

Sie sollte Kontext bekommen.

Eine Seite vorher.

Eine Seite nachher.

Dazu eine Art kleines Gedächtnis.

Wichtige Ereignisse wurden herausgefiltert und in einer Markdown-Datei gespeichert.

Namen.

Beziehungen.

Begriffe.

Dinge, die später wieder wichtig sein könnten.

Das war natürlich alles weit weg von perfekt.

Aber es wurde besser.

Die Übersetzungen wurden langsam brauchbarer.

Die Prompts wurden genauer.

Ich verstand besser, was das Modell braucht.

Und zum ersten Mal hatte ich dieses Gefühl:

„Okay. Vielleicht kann man Maschinenübersetzung nicht einfach mit mehr Modellgröße erschlagen. Vielleicht muss man ihr helfen, die Geschichte zu verstehen.“

Das war ein spannender Gedanke.

So spannend, dass ich das Projekt eigentlich hätte weiterverfolgen sollen.

Eigentlich.

Aber dann kam das nächste Kaninchenloch.

Diffusion-Modelle betreten den Raum

Irgendwann zwischendurch, als Ablenkung, entdeckte ich Diffusion-Modelle.

Bilderzeugung.

Stable Diffusion.

ComfyUI.

Prompting.

Modelle.

LoRAs.

Workflows.

Nodes.

All dieser schöne Wahnsinn.

Und plötzlich waren die Light Novels wieder ein bisschen weiter hinten im Regal.

Nicht weg.

Nur überdeckt.

Von Bildern.

Von Prompts.

Von diesem neuen Spielzeuggefühl, wenn man eine Idee in Text schreibt und der Rechner daraus irgendetwas baut, das entweder erstaunlich gut aussieht oder als Beweisstück in einem KI-Horrorprozess dienen könnte.

Ich promptete also Bilder.

Baute Workflows.

Installierte Kram.

Fluchte über Kram.

Freute mich über Kram.

Und irgendwo im Hintergrund lag mein ePub-Übersetzungstool herum wie ein angefangenes Nebenquest, bei dem der Questgeber wahrscheinlich schon gestorben ist.

Aber hey.

Prioritäten.

Oder zumindest das, was mein Gehirn dafür hält.

Windows 11 und die leere SSD

Dann kam eine weitere glorreiche Idee.

Windows 10 fraß Ressourcen.

Windows 10 war zäh.

Windows 10 hatte sein Ende langsam am Horizont stehen.

Und ich dachte:

„Na gut. Was ist mit Windows 11?“

Ja.

Ich weiß.

Im Nachhinein klingt das wie der Anfang eines Unfallberichts.

Aber damals erschien es irgendwie logisch.

Also Update auf Windows 11.

Was soll schon passieren?

Offenbar eine Menge.

Ich weiß bis heute nicht genau, was schiefgelaufen ist.

Vielleicht habe ich etwas falsch gemacht.

Vielleicht Windows.

Vielleicht das Universum.

Before the Linux Rabbit Hole: Der Moment, bevor Pop!_OS die Tür zum Dungeon öffnete
Es gibt Dinge, die legt man erstmal beiseite.
Nicht, weil sie schlecht waren.
Nicht, weil man sie vergessen hat.
Sondern weil das Gehirn irgendwann sagt:
„So. Das war interessant. Jetzt bitte wieder drei Monate komplett woanders hin.“
Bei mir ist das ziemlich normal.
Ich habe keine Hobbys.
Ich habe rotierende Jahreszeiten im Kopf.
Mal Gaming.
Mal Anime.
Mal Manga.
Mal Light Novels.
Mal Technik.
Mal irgendein völlig neues Ding, das morgens um zehn noch keine Rolle spielt und abends plötzlich mein kompletter Charakterbogen ist.
So ungefähr lief das auch nach meinem ersten kleinen Linux-Ausflug mit Xubuntu.
Der alte HP-Laptop hatte Linux bekommen.
Ich hatte meinen ersten kleinen apt install-Zauberspruch gewirkt.
Calibre war plötzlich aus dem Nichts erschienen wie ein digitaler Butler mit Paketquellen.
Und dann?
Dann habe ich Linux erstmal wieder liegen lassen.
Nicht dramatisch.
Nicht endgültig.
Eher so, wie man ein interessantes Buch auf den Nachttisch legt und sich vornimmt:
„Da lese ich morgen weiter.“
Und dann ist plötzlich ein halbes Jahr vorbei.

Erstmal wieder Gaming
Nach meinem ersten Linux-Kontakt landete ich erstmal wieder ziemlich normal in meiner alten Komfortzone.
Gaming.
Windows.
Bekannte Oberfläche.
Bekannte Programme.
Bekannter Ablauf.
Spiel starten.
Updates ignorieren.
Controller suchen.
Fluchen, weil irgendein Launcher schon wieder ein Update will.
Alles wie immer.
Linux war irgendwo im Hinterkopf.
So ein kleiner Gedanke, der ab und zu anklopfte:
„Hey. Weißt du noch? Paketmanager. Terminal. Calibre. Das war irgendwie cool.“
Und ich so:
„Ja ja, später.“
Später ist bei mir ein sehr dehnbarer Begriff.
Manchmal bedeutet es morgen.
Manchmal bedeutet es sechs Monate.
Manchmal bedeutet es: nie, aber mit gutem Vorsatz.
Jedenfalls widmete ich mich erstmal wieder dem Gaming, bis ungefähr Anfang Sommer 2025 die Motivation langsam abdampfte.
Nicht plötzlich.
Nicht mit großem Knall.
Eher so, als würde innerlich jemand die Lautstärke runterdrehen.
Spiele, auf die ich eigentlich Lust haben sollte, lagen herum.
Launcher wurden geöffnet und wieder geschlossen.
Die Bibliothek war voll.
Der Kopf war leer.
Und dann passierte das, was bei mir immer passiert, wenn ein Interesse gerade Pause macht:
Ein anderes tritt aus dem Schatten.
Diesmal waren es wieder Anime.
Manga.
Manhwa.
Light Novels.
Also im Grunde:
Lesen, lesen und nochmal lesen, bis die Augen in Tränen ausbrechen, weil sie den Bildschirm nicht mehr ertragen.
War mir ehrlich gesagt egal.
Wurde einfach weitergelesen.
Man muss ja Prioritäten setzen.

Der Light-Novel-Sog
Irgendwann war ich also wieder voll drin.
Manhwa hier.
Light Novel da.
Eine neue Geschichte angefangen.
Dann noch eine.
Dann vielleicht kurz in eine dritte reinschauen.
Nur mal gucken.
Natürlich.
„Nur mal gucken“ ist bei mir ungefähr so gefährlich wie „ich installiere nur schnell ein Paket“.
Das endet nie bei einem.
Das Problem war nur:
Irgendwann fand ich auf Deutsch kaum noch etwas, das mich wirklich interessierte.
Oder besser gesagt:
Ich fand schon noch Sachen.
Aber nicht genau diese Sachen.
Diese ganz bestimmten Geschichten, bei denen das Gehirn plötzlich sagt:
„Ja. Das da. Sofort.“
Und natürlich lagen viele davon im englischsprachigen Raum.
Jetzt könnte man sagen:
„Dann lies halt auf Englisch.“
Und ja.
Könnte man.
Theoretisch.
Aber ich bin mit Deutsch aufgewachsen.
In der Schule habe ich Englisch nicht gerade geliebt.
Vielleicht habe ich auch ein paar Stunden zu oft geschwänzt, um später selbstbewusst sagen zu können:
„Ach, Englisch lese ich einfach nebenbei weg.“
Nein.
Tat ich nicht.
Ich kann Englisch irgendwie.
Aber ich wollte nicht ständig beim Lesen das Gefühl haben, dass mein Gehirn gleichzeitig Übersetzer, Leser und müder Praktikant ist.
Ich wollte lesen.
Nicht arbeiten.
Also kam irgendwann diese sehr gefährliche Frage:
„Kann man E-Books eigentlich automatisch übersetzen?“
Und da war er wieder.
Der alte Reflex.
Rechner an.
Browser auf.
Suchen.
Recherchieren.
Und plötzlich war ich nicht mehr beim Lesen.
Ich war beim Basteln.

Calibre, dieses alte geniale Biest
Bei meiner Suche landete ich natürlich wieder bei Calibre.
Calibre kannte ich schon gefühlt eine halbe Ewigkeit, nur hatte ich es nie wirklich benutzt.
Dieses Programm sieht aus, als hätte es schon E-Books verwaltet, bevor manche Webseiten überhaupt CSS richtig verstanden haben.
Optisch ist Calibre ein bisschen wie ein Werkzeugkeller.
Nicht hübsch.
Nicht modern.
Nicht „oh wow, was für eine elegante Oberfläche“.
Eher:
„Hier liegt alles. Fass nichts an, wenn du nicht weißt, was es macht.“
Aber genau deshalb ist Calibre irgendwie großartig.
Es wirkt altbacken, aber unter der Haube ist das Ding ein Monster.
So ein Programm, bei dem man merkt:
Das ist nicht entstanden, weil jemand eine schöne App bauen wollte.
Das ist entstanden, weil jemand ein Problem hatte und dann beschlossen hat, einfach das komplette Problemfeld zu unterwerfen.
Und irgendwo in dieser Calibre-Welt fand ich dann ein Plugin.
ebook-translator.
Ein Plugin, mit dem man E-Books satzweise oder abschnittsweise übersetzen lassen konnte.
Google Translate.
DeepL.
OpenAI.
Verschiedene Dienste.
Verschiedene Möglichkeiten.
Und mein Kopf so:
„Moment. Das geht?“
Ja.
Ging.
Nicht perfekt.
Aber erstaunlich brauchbar.
Das Problem war nur:
Viele der brauchbaren Wege kosten Geld.
Nicht unbedingt absurd viel.
Aber auf Dauer eben doch genug, dass mein innerer Geldbeutel die Augenbraue hob.
Und weil ich offenbar nicht einfach akzeptieren kann, dass gute Dienste Geld kosten, kam der nächste Gedanke:
„Kann man das nicht lokal machen?“
Das ist übrigens einer dieser Sätze, bei denen erfahrene Menschen sofort nervös werden.
„Kann man das nicht lokal machen?“
Klingt harmlos.
Ist aber oft der Anfang von drei Wochen Schmerz, 17 Forenbeiträgen und einer neuen Meinung über Treiber.

Lokale KI auf Hardware mit Selbstzweifeln
Damals hatte mein Rechner 16 GB RAM.
Dazu eine RTX 2070 mit 8 GB VRAM.
Das war nicht komplett schlecht.
Aber für lokale KI auch nicht gerade:
„Bitte hier entlang, Herr Kiru, Ihr privates Rechenzentrum wartet bereits.“
Es war eher:
„Ja, ein kleines Modell passt vielleicht rein, wenn du vorher nichts anderes inhalierst.“
Aber ich wollte es versuchen.
Natürlich wollte ich es versuchen.
Also installierte ich LM Studio.
Ja, LM Studio.
Nicht Ollama.
Nicht irgendein besonders eleganter Terminal-Weg.
LM Studio.
Warum?
Weil es für mich damals am einfachsten wirkte.
Und ehrlich gesagt benutze ich es teilweise heute noch lieber.
Fragt mich nicht.
Manchmal entscheidet das Gehirn nicht nach objektiver Schönheit, sondern nach:
„Das Ding hat mich beim ersten Versuch nicht direkt getreten.“
Also LM Studio installiert.
Lokale Modelle geladen.
Qwen.
Gemma.
Mistral.
Llama.
Alles, was irgendwie in meine Hardware passte, wurde ausprobiert.
Natürlich maximal in Größenordnungen, bei denen mein Rechner nicht sofort in den Existenzstreik ging.
12B war damals schon so ein Bereich, bei dem man nicht mehr von Geschwindigkeit sprach.
Eher von geologischer Bewegung.
Schneckentempo ahoi.
Aber es lief.
Irgendwie.
Dann passte ich das JSON-Script vom Calibre-Plugin an, damit es mit meiner lokalen API sprechen konnte.
Und da saß ich dann.
Vor einem lokalen LLM.
Mit einem E-Book.
Und der Hoffnung, dass jetzt Magie passiert.
Passierte auch.
Nur leider eher die Art Magie, bei der der Zauberer aus Versehen die Tischdecke anzündet.

Google Translate lachte leise im Hintergrund
Die Ergebnisse waren …
Wie formuliere ich das freundlich?
Schwierig.
Wenn ich wirklich sehr nett sein möchte, würde ich sagen:
Sie lagen ungefähr zwei bis drei Stockwerke unter dem Niveau einer ganz normalen Google-Übersetzung.
Und das muss man erstmal schaffen.
Google Translate ist nicht perfekt.
Aber wenn man darunter landet, dann steht man schon ziemlich tief im Maschinenübersetzungs-Keller und hört oben jemanden die Tür abschließen.
Manchmal waren die Sätze irgendwie korrekt.
Aber tot.
Manchmal wurde der Sinn nur grob getroffen.
Manchmal klang es, als hätte ein sehr müder Roboter versucht, eine japanische Light Novel über drei Sprachen hinweg durch einen Mixer zu ziehen.
Natürlich kann es auch an mir gelegen haben.
Meine Prompts waren wahrscheinlich nicht gerade Meisterwerke.
Ich war Anfänger.
Ich darf das.
Damals wusste ich noch nicht, wie viel ein Prompt ausmachen kann.
Ich wusste nicht, wie wichtig Kontext ist.
Ich wusste nicht, dass man einem Modell nicht einfach einen Satz hinwerfen und erwarten sollte:
„Hier, mach Literatur draus.“
Das Plugin übersetzte im Grunde abschnittsweise.
Satz für Satz.
Stück für Stück.
Aber Geschichten funktionieren nicht nur aus einzelnen Sätzen.
Sie haben Ton.
Stimmung.
Figuren.
Beziehungen.
Running Gags.
Begriffe, die gleich bleiben müssen.
Kontext, der über mehrere Seiten trägt.
Und genau das fehlte.
Also saß die KI da und übersetzte brav kleine Stückchen Text, ohne wirklich zu wissen, was davor passiert war und was danach passieren würde.
Ein bisschen wie jemand, der mitten in Band 7 einer Light Novel auf Seite 112 einsteigt und dann so tut, als hätte er alles verstanden.
Nett gemeint.
Aber nein.

Rauchen gehen und Kopf rattert
Also tat ich, was ich in solchen Momenten oft tue.
Ich ärgerte mich.
Machte die Kiste aus.
Ging rauchen.
Und während ich da stand, ratterte der Kopf weiter.
Das ist auch so eine unangenehme Eigenschaft meines Gehirns.
Es lässt Dinge nicht einfach liegen.
Es kaut darauf herum.
Wie ein Hund auf einem alten Knochen.
Nicht gesund.
Aber ausdauernd.
Und irgendwann kam der Gedanke:
„Was wäre, wenn die KI mehr Kontext bekommt?“
Nicht nur einen Satz.
Nicht nur einen Absatz.
Sondern ein bisschen Wissen über die Geschichte.
Über Figuren.
Über Ereignisse.
Über Begriffe.
Was, wenn sie vorher und nachher etwas Text sieht?
Was, wenn sie sich wichtige Dinge merkt?
Was, wenn sie nicht wie ein völlig verlorener Praktikant auf Seite 113 steht, sondern wenigstens einen kleinen Spickzettel hat?
Und da war sie.
Die nächste dumme Idee.
Ich baue mir einfach ein eigenes kleines ePub-Übersetzungstool.
Einfach.
Natürlich.
So wie man einfach mal eben einen Schuppen baut und am Ende steht man da einem platten Daumen und einem Nagel im Knie.

Ich konnte ja mal ein bisschen Code
Aus meiner Jugend kannte ich noch ein wenig CSS.
Ein bisschen PHP.
Etwas JavaScript.
Minimal C.
Also wirklich minimal.
So minimal, dass C wahrscheinlich beleidigt wäre, wenn es davon wüsste.
Das war außerdem knapp 20 Jahre her.
Aber manches kam mir noch bekannt vor.
Variablen.
Schleifen.
Funktionen.
Dieses Gefühl, dass ein Semikolon entweder nichts bedeutet oder dein komplettes Leben zerstört.
Und dann war da noch ChatGPT.
Ich hatte kurz vorher einen Vertrag bei O2 abgeschlossen, weil ich unbedingt ein Honor Magic V5 wollte, und da gab es ChatGPT für sechs Monate kostenlos dazu.
Also dachte ich:
„Na gut. Fragen wir halt die Maschine.“
Nicht im Sinne von:
„Programmier mir mal eben ein hübsches GUI-Übersetzungstool.“
Das wäre wahrscheinlich gnadenlos schiefgegangen.
Eher als Assistent.
Als Erklärbär.
Als jemand, der geduldig erklärt, warum mein Code gerade aussieht, als hätte ein Waschbär auf der Tastatur getanzt.
Natürlich ist KI nicht perfekt.
Manchmal verwechselt sie einen Pinguin mit einem Panda und schaut dabei sehr überzeugend.
Aber als Begleiter beim Basteln?
Als jemand, der mir Dinge erklärt, Beispiele gibt und mich nicht auslacht, wenn ich zum dritten Mal denselben Denkfehler mache?
Dafür war es erstaunlich hilfreich.
Also fing ich an.
Langsam.
Schleppend.
Mit sehr viel:
„Warum geht das nicht?“
Und noch mehr:
„Ach deshalb.“

Das kleine Übersetzungstool bekommt ein Gedächtnis
Die ersten Versuche waren roh.
Sehr roh.
So roh, dass man sie nicht Tool nennen sollte.
Eher Script mit Zukunftsängsten.
Aber nach und nach entstand etwas.
Ein kleines ePub-Übersetzungstool.
Nichts Hübsches.
Nichts, was man stolz auf GitHub präsentiert und sagt:
„Seht her, meine Architektur.“
Eher:
„Bitte nicht direkt reinschauen, aber es funktioniert.. manchmal.“
Die Idee war simpel:
Die KI sollte nicht nur einen Absatz bekommen.
Sie sollte Kontext bekommen.
Eine Seite vorher.
Eine Seite nachher.
Dazu eine Art kleines Gedächtnis.
Wichtige Ereignisse wurden herausgefiltert und in einer Markdown-Datei gespeichert.
Namen.
Beziehungen.
Begriffe.
Dinge, die später wieder wichtig sein könnten.
Das war natürlich alles weit weg von perfekt.
Aber es wurde besser.
Die Übersetzungen wurden langsam brauchbarer.
Die Prompts wurden genauer.
Ich verstand besser, was das Modell braucht.
Und zum ersten Mal hatte ich dieses Gefühl:
„Okay. Vielleicht kann man Maschinenübersetzung nicht einfach mit mehr Modellgröße erschlagen. Vielleicht muss man ihr helfen, die Geschichte zu verstehen.“
Das war ein spannender Gedanke.
So spannend, dass ich das Projekt eigentlich hätte weiterverfolgen sollen.
Eigentlich.
Aber dann kam das nächste Kaninchenloch.

Diffusion-Modelle betreten den Raum
Irgendwann zwischendurch, als Ablenkung, entdeckte ich Diffusion-Modelle.
Bilderzeugung.
Stable Diffusion.
ComfyUI.
Prompting.
Modelle.
LoRAs.
Workflows.
Nodes.
All dieser schöne Wahnsinn.
Und plötzlich waren die Light Novels wieder ein bisschen weiter hinten im Regal.
Nicht weg.
Nur überdeckt.
Von Bildern.
Von Prompts.
Von diesem neuen Spielzeuggefühl, wenn man eine Idee in Text schreibt und der Rechner daraus irgendetwas baut, das entweder erstaunlich gut aussieht oder als Beweisstück in einem KI-Horrorprozess dienen könnte.
Ich promptete also Bilder.
Baute Workflows.
Installierte Kram.
Fluchte über Kram.
Freute mich über Kram.
Und irgendwo im Hintergrund lag mein ePub-Übersetzungstool herum wie ein angefangenes Nebenquest, bei dem der Questgeber wahrscheinlich schon gestorben ist.
Aber hey.
Prioritäten.
Oder zumindest das, was mein Gehirn dafür hält.

Windows 11 und die leere SSD
Dann kam eine weitere glorreiche Idee.
Windows 10 fraß Ressourcen.
Windows 10 war zäh.
Windows 10 hatte sein Ende langsam am Horizont stehen.
Und ich dachte:
„Na gut. Was ist mit Windows 11?“
Ja.
Ich weiß.
Im Nachhinein klingt das wie der Anfang eines Unfallberichts.
Aber damals erschien es irgendwie logisch.
Also Update auf Windows 11.
Was soll schon passieren?
Offenbar eine Menge.
Ich weiß bis heute nicht genau, was schiefgelaufen ist.
Vielleicht habe ich etwas falsch gemacht.
Vielleicht Windows.
Vielleicht das Universum.
Vielleicht alle zusammen in einer kleinen Arbeitsgruppe namens „Kiru lernt Schmerz“.
Jedenfalls war danach meine SSD leerer als mein Bauch nach drei Wochen Fasten.
Alles weg.
Wirklich alles.
Der Kram, der sich über Jahre angesammelt hatte.
Projekte.
Dateien.
Experimente.
Downloads.
Workflows.
Halbfertige Ideen.
Digitale Geröllhalde.
Futsch.
Weg.
Einfach ausradiert.
Ich war begeistert.
Also nicht wirklich.
Eher so begeistert, wie man begeistert ist, wenn einem jemand sagt:
„Gute Nachricht: Das Haus brennt, aber die Klingel funktioniert noch.“
Denn Windows 11 lief danach.
Immerhin.
Man freut sich ja über sonst nichts.

ComfyUI, ich hasse dich immer nochBefore the Linux Rabbit Hole: Der Moment, bevor Pop!_OS die Tür zum Dungeon öffnete
Es gibt Dinge, die legt man erstmal beiseite.
Nicht, weil sie schlecht waren.
Nicht, weil man sie vergessen hat.
Sondern weil das Gehirn irgendwann sagt:
„So. Das war interessant. Jetzt bitte wieder drei Monate komplett woanders hin.“
Bei mir ist das ziemlich normal.
Ich habe keine Hobbys.
Ich habe rotierende Jahreszeiten im Kopf.
Mal Gaming.
Mal Anime.
Mal Manga.
Mal Light Novels.
Mal Technik.
Mal irgendein völlig neues Ding, das morgens um zehn noch keine Rolle spielt und abends plötzlich mein kompletter Charakterbogen ist.
So ungefähr lief das auch nach meinem ersten kleinen Linux-Ausflug mit Xubuntu.
Der alte HP-Laptop hatte Linux bekommen.
Ich hatte meinen ersten kleinen apt install-Zauberspruch gewirkt.
Calibre war plötzlich aus dem Nichts erschienen wie ein digitaler Butler mit Paketquellen.
Und dann?
Dann habe ich Linux erstmal wieder liegen lassen.
Nicht dramatisch.
Nicht endgültig.
Eher so, wie man ein interessantes Buch auf den Nachttisch legt und sich vornimmt:
„Da lese ich morgen weiter.“
Und dann ist plötzlich ein halbes Jahr vorbei.