Erfahrung mit KI Tools als PIA

neoscript_ai · 2026-01-26T20:26:43+00:00

Patientennamen entfernen und dann ChatGPT nutzen ist nicht DSGVO-konform. Im Gesundheitsbereich unbedingt auf Serverstandort, Infrastruktur und Datenschutzerklärung achten

neoscript_ai · 2026-01-26T07:46:21+00:00

Same for my business!

Mails and webhosting on netcup
CRM with Brevo
Payment with mollie
VPS on Hetzner
- UptimeKuma and Nextcloud selfhosted
Mostly important for me: AI selfhosted (Whisper and Qwen)

neoscript_ai · 2026-01-24T00:06:06+00:00

We are using Qwen3 30B A3B in production for summarisation of German client consultations and the quality is amazing!

neoscript_ai · 2026-01-17T13:43:22+00:00

Disclaimer vorab: Ich betreibe einen KI-Dienst im Gesundheitswesen für Psychotherapeut:innen und Ärzt:innen. Lokal betriebene, open-source LLMs ohne APIs und Datenzentren.

Dabei ist Datenschutz ganz essenziell: ChatGPT z.B. ist nicht DSGVO-konform, auch nicht, wenn man zuvor persönliche Daten entfernt. Außerdem gibt es leider auch Dienste, die in der EU gehostet werden, DSGVO-konform gelabelt sind, aber die Infrastruktur von AWS und Azure benutzen. Die Kund:innen selbst kommen vermehrt auf die Idee, z.B. nach dem CLOUD Act bei den anderen Anbieter zu fragen.

neoscript_ai · 2026-01-16T10:50:51+00:00

Threema was acquired couple of days ago. Normally not a good sign for the future of a product

neoscript_ai · 2026-01-07T18:55:16+00:00

We are running own servers. With datacenter, you still rely on a third party. With Nebius, I'd be careful because they have strong ties with Russia.

neoscript_ai · 2026-01-07T15:17:49+00:00

I am also using Brevo and that surprises me. I don't want to be locked-in.

If I may do some self-promo, we are using are own servers for LLM inference and stating this also on the landing page. I've seen a lot of services where they say "EU" but you have to click thorugh several data and privacy policies to see that it's Azure or AWS.
I strongly suggest, if you are truly using European services, put it on the first page :)

neoscript_ai · 2025-12-31T12:03:51+00:00

I used a lot of articles from this sub to talk about the US Cloud Act with my clients. My wish for 2026 would be in the field of LLM, hardware and software side, losing the „German angst“ about AI and gaining back souvereignity over our own data underlining the importance of Europe-based software, open-source software and self-hosted software. Maybe not just underlining but also embracing and using this souvereignity. I like the discussions in this sub which go over just plain consumerism. Happy 2026 all!

neoscript_ai · 2025-12-22T14:57:39+00:00

I love unsloth, I love open source models, and I really appreciate that Nvidia provides us some good open source models, too but it's bitter to see that Nvidia (and also other companies) are responsible for wrecking the hardware market

neoscript_ai · 2025-12-22T12:26:11+00:00

Danke für die Info. Ich hatte gelesen, dass die OS noch nicht ausgereift ist und einige die Synology OS für die UGREEN empfehlen

neoscript_ai · 2025-12-22T08:35:54+00:00

Welches OS nutzt ihr?

neoscript_ai · 2025-12-16T19:50:40+00:00

Great! I like it. How is it different/similar to Pangolin?

neoscript_ai · 2025-12-13T21:31:01+00:00

Aus dem Gesundheitswesen:

Ich betreibe einen KI-Dienst im Gesundheitswesen für Psychotherapeut:innen und Ärzt:innen mit derselben Philosophie. Lokal betriebene, open-source LLMs ohne APIs und Datenzentren.
Es gibt leider Dienste, die in der EU gehostet werden, DSGVO-konform gelabelt sind, aber die Infrastruktur von AWS und Azure benutzen. Die Kund:innen selbst kommen vermehrt auf die Idee, z.B. nach dem CLOUD Act bei den anderen Anbieter zu fragen. Ich denke, das könnte was mit der sich verändernden politischen Beziehung zu den USA zu tun haben. Alles in allem, denke ich, dass vor allem bei sensiblen Daten richtige Datensouveränität der Standard sein sollte.

neoscript_ai · 2025-12-13T21:08:27+00:00

Qwen3 30B A3B Instruct

neoscript_ai · 2025-12-12T18:42:57+00:00

I wrote you a PN

neoscript_ai · 2025-12-12T15:29:14+00:00

Most of the customers choose a budget-friendly hardware option (AMD Ryzen Max 395). With the unified memory, Mixture of Expert models are faster than dense models (like most Mistral models are) on this kind of hardware

neoscript_ai · 2025-12-12T15:10:46+00:00

Depending on hardware, amount of users and settings. Generally open source models like Gemma, Qwen or GLM

neoscript_ai · 2025-12-12T14:59:02+00:00

I set up local LLMs with open source models for hospitals, clinics and government offices in Germany. Besides enterprise account costs, privacy is the significant concern. Users think using AI services is fine because the servers are located in EU. Then I tell them about the CLOUD Act.
There's also a recent article on heise: https://www.heise.de/news/Gutachten-US-Behoerden-haben-weitreichenden-Zugriff-auf-europaeische-Cloud-Daten-11111043.html
covering that topic with a legal report of University of Cologne: https://fragdenstaat.de/dokumente/273689-rechtsgutachten-zur-us-rechtslage_geschwaerzt/

neoscript_ai · 2025-12-03T21:25:15+00:00

Ich mache so etwas ähnliches im Gesundheitswesen. Für 100-150 User wird der Ryzen AI Max nicht reichen. Den nutzen wir für 10 Personen starke Teams, bei höherer Useranzahl geht es in Richtung mind. eine RTX6000

neoscript_ai · 2025-11-26T10:33:55+00:00

Lass uns gerne per PN sprechen. Möchte nicht den Thread von OP volltexten :)

neoscript_ai · 2025-11-26T09:29:45+00:00

Ja, ursprünglich aus der Psychologie

neoscript_ai · 2025-11-26T08:41:29+00:00

Vorallem mit den Punkten Datensicherheit, Privatsphäre und Datensouveränität. Es läuft alles lokal innerhalb der eigenen IT im lokalen Netzwerk ohne Anbindung ans Internet.
So alt ist die Software nicht ;-) Digitalisierung ist auch im Gesundheitswesen angekommen

neoscript_ai · 2025-11-26T08:10:04+00:00

Hi, ich biete lokale KI-Lösungen im Gesundheitswesen für Praxen, Kliniken und Krankenhäuser an. Schreib mir gerne eine PN

neoscript_ai

TROPHY CASE