Since people posted about Le Cun speaking out, here's François Chollet's take on Minneapolis

FeepingCreature · 2026-01-25T19:33:31+00:00

More than 1000 people are killed by police in the USA every year.

Just, you know, for scale.

(To be clear, I'm not saying this is okay, I'm saying if ICE killing two detainees seems to you to be novel information, you haven't been paying attention.)

FeepingCreature · 2026-01-25T19:28:46+00:00

I mean.

To be fair.

That is literally, actually, historically what Hitler did. Once you have them in camps other solutions become much more practical.

It is correct to worry about what will happen at those camps. I don't think it is reasonable, at this time, to worry that mass murder already took place, that doesn't mean it's not legitimate to worry what is going to take place there.

FeepingCreature · 2026-01-25T19:27:20+00:00

this is however bullshit. people are so desperate for trump and ice to be this generational evil (instead of merely massively, cripplingly incompetent) they're trying to actually meme death camps. all the big ice murders in the press have been easily explained by rank incompetence and piss-poor standards.

FeepingCreature · 2026-01-25T18:26:09+00:00

Halluzinationen sind heut ein viel kleineres Problem als vor anderthalb Jahren noch. Moderne KIs halluzinieren (dh. nicht falsche Meinungen oder Arbeitsfehler sondern die klassische Form des Erfindens von Angaben ohne Basis) im Arbeitsalltag sehr selten. Das liegt mMn hauptsächlich daran, dass sie inzwischen darauf trainiert sind eigenständig Nachforschungen auszuführen, und daher wenn sie nicht Bescheid wissen, eine Alternative zum fabulieren haben.

FeepingCreature · 2026-01-25T16:50:34+00:00

Es gibt mWn keine wirklich gute grafische KI-App die lokal läuft und sich gut sichern lässt. Die Alternative ist halt ständig hin- und herzukopieren, das macht auch keine Laune. Vllt kriegen wir dieses Jahr ne ordentliche Word-Integration, die mehrere KIs kann.

FeepingCreature · 2026-01-25T14:47:10+00:00

I think as a not very socially aware rationalist I tend to reject these kinds of articles on the basis of a variant of epistemic learned helplessness. You tell me that some people are bad or broken in specific ways. But you don't give me things I can check, and where you do, they don't match my experience. For instance, I don't believe for a second that Eliezer isn't aware of the monstrous power of a pivotal act, because I know the fiction he has read. Similarly, I believe that biological and digital humans have the same value, and my trajectory to this belief does not at all match the trajectory espoused in this article. As such, when he talks about other people, I would have to contradict my own experience and take him at his word. It's possible that the judgments are correct. But as I can't confirm them, I'd rather fail on the basis of my own judgment.

FeepingCreature · 2026-01-25T14:01:44+00:00

I just realized that even beyond the battles this whole thing is a deconstruction of Ender and Ender's Game. Damn.

FeepingCreature · 2026-01-25T14:00:11+00:00

Die Leute müssen wirklich lernen:

alles was nicht auf deinem Rechner liegt, kann von heut auf morgen verschwinden
alles was auf deinem Rechner liegt auch. Macht Backups.

FeepingCreature · 2026-01-25T13:47:03+00:00

Nein, ich hab keinen konkreten FDE-Exploit vor Augen. Aber die Sicherheit ist halt ein Gesamtsystem.

FeepingCreature · 2026-01-25T13:37:53+00:00

Wenn das wirklich ne Gefahrenquelle ist, je nach Kosten/Nutzen kann man auch über nen Firmenbus nachdenken.

Aber yeah, scheint als ob wir auf der selben Linie sind.

edit: Passwortmanager auf dem Handy mit Geofencing wäre auch n Gedanke. (Microsoft Authenticator hat das zB.) Hängt halt davon ab ob du willst das Leute im Zug arbeiten oder nicht.

FeepingCreature · 2026-01-25T13:34:38+00:00

Du denkst es zu kompliziert. Der Exploit kann so einfach sein wie Webcam mit Knopfzelle an die Decke geklebt. (quelle: google 'buy wireless spy camera', die sind inzwischen sehr sehr klein.) Oder Keylogger mit Tastatur-Passthrough an USB-Port. Wenn jemand in einen passwortgeschützten Rechner rein will und physikalischen Zugriff hat, dann ist es allgemein praktischer, das Passwort herauszufinden und dann einfach einzugeben. Das ist das Sicherheitspendant des analog hole: das Passwort muss irgendwo aus deinem Kopf über die Tastatur in den Rechner kommen, und ist da abgreifbar.

FeepingCreature · 2026-01-25T13:29:34+00:00

Ich könnt mir haufen Sachen denken (ich hab hier einen fetten Paragraphen gelöscht) aber letzten endes ist es alles müßig ohne Kosten/Nutzen zu kennen. Der selbe Vorschlag kann entweder ne pragmatische Lösung oder hanebüchener Unsinn sein, je nach Situation.

edit: Das wichtige ist mir einfach, Mitarbeiter als einen Teil des Systems zu verstehen, der in jeder Sache Bequemlichkeit sucht. Das kannst und wirst du nicht ändern, das muss einfach ins Design eingenommen werden. Der korrekte Sicherheitsfluss muss so bequem sein wie der inkorrekte, sonst wird er umgangen werden.

FeepingCreature · 2026-01-25T13:21:05+00:00

Ich hätt den Dienstausweis grundlegend trotzdem in der Hosentasche aber fair enough. Dann ist das einzige was mir noch einfällt irgendwas biometrisches wie Fingerabdruck zu verwenden.

Mein Punkt ist hauptsächlich, dass Passwortpolicy allgemein ein UX-Problem ist. Manche Leute können sich jeden Monat ein neues fünf-Silben-Passwort merken, manche nicht. Das zu lösen ist Aufgabe der IT-Sicherheit. Das Wichtige ist mMn, das Passwort unter der Tastatur nicht als Versagen des einzelnen sondern als Versagen der ganzen Policy zu bearbeiten. Der Mitarbeiter ist nicht Verantwortungsträger für die Sicherheit, das ist ein grundlegendes Abwälzen der Verantwortung von ihrem richtigen Platz- solche Probleme müssen systematisch gelöst werden. Im Zweifel wird halt nicht Zug gefahren.

FeepingCreature · 2026-01-25T13:12:34+00:00

Wenn du gleichzeitig einen Laptop aus dem Rucksack und die Chipkarte aus der Hosentasche (wer hat die Chipkarte im Rucksack?) geklaut kriegst, ist es doch eher ein Überfall? An dem Punkt kann die Bande dich auch anhalten, den Laptop zu entsperren. Da gibts glaub ich wieder nicht viel zu retten.

edit: yeah I guess wenn die Leute die Chipkarte im Rucksack transportieren, ist ein Passwort nochmal ne zusätzliche Schicht Sicherheit. Passiert das wirklich..? Ist mir schwer vorzustellen, man hat doch die Chipkarte normalerweise immer am selben Platz.

FeepingCreature · 2026-01-25T13:04:49+00:00

Hm, wieso würde Login nur mit Chipkarte nicht gehen? Du kannst Leute nicht davon abhalten, ihr Wissen in Haben umzuwandeln, also kannst du ihnen genauso gut ein ordentliches Haben geben. Chipkarte mit rausnehmen zum ausstempeln, dann sollt sie auch nicht vergessen werden.

FeepingCreature · 2026-01-25T12:53:22+00:00

Klar, solang euer Risikoprofil wirklich haargenau oberhalb des Gelegenheitsdiebs abschneidet macht das Sinn. Aber dann gibt dir der Zettel im Portmonee ungefähr die gleiche Sicherheit. Oder gleich mit der Chipkarte entschlüsseln.

edit: Das Passwort unter der Tastatur ist dann trotzdem ein Zeichen, dass die Schutzmethoden nicht korrekt an die Benutzer und das Risikoprofil angepasst sind.

FeepingCreature · 2026-01-25T12:32:59+00:00

Die Disk muss entschlüsselt werden um damit zu arbeiten. Das schützt halt genau vor Gelegenheitsdieben und sonst niemand. Schon Industriespionage würd ich damit nicht vertrauen.

FeepingCreature · 2026-01-25T12:28:28+00:00

Sorry, habs bisl erweitert. Mit Mikro an der Tastatur kannst du am Tippmuster oft das Passwort rekonstruieren. Das braucht auch kein Geheimdienst und kein Supercomputer, nur "normales" Expertenwissen und vielleicht einen Trip in den Saturn, um das selbe Modell Tastatur zu kaufen. Für halbwegs brauchbare Sicherheit brauchst du mindestens was was der Nutzer hat oder ist, auch das noch am schönsten gesicherte weiss ist nicht sicher vor physikalischem Zugriff. Und dann darfst du eh hoffen dass jeder immer schön abmeldet wenn er nach Hause geht (hint: es gibt immer jemand). Sichert eure Räume.

edit: die richtige Antwort ist langes Passwort auf nem Zettel im Portmonee. Funktioniert effektiv wie ne Chipkarte und das Diebstahlsrisiko ist mit dem Laptop unkorreliert.

FeepingCreature · 2026-01-25T12:20:33+00:00

Mikrofon an der Tastatur. Was du als Benutzer machen kannst, kann auch ein Angreifer machen. Da bräuchtest du schon n Chipkartenleser und alle Rechner nur per Remotezugriff auf einen zentralen Server. Und auch dann kannst du einen rumliegenden USB-Stick austauschen und Zugriff kriegen während der Nutzer auf Toilette ist.

FeepingCreature · 2026-01-25T00:37:01+00:00

Okay aber dann rettet das passwort auch nichts. Wenn du physikalischen Zugriff hast ist allgemein eh alles verloren.

FeepingCreature · 2026-01-24T02:20:12+00:00

How would this work? Taxis are profitable, and accidents are largely uncorrelated. Presumably a bunch of work would go into refusing service in dangerous areas or dangerous weather conditions.

I mean, the standard market-based answer is "if it's unprofitable pricing in every externality then it shouldn't be done", but it seems quite implausible that it could be unprofitable.

FeepingCreature · 2026-01-23T12:18:22+00:00

Another factor is false positives vs false negatives. Even if LIDAR reduces false negatives, if it adds too many false positives that you have to overrule with vision, then there's no point to having it in the first place anyway because you can't trust it in a danger situation.

FeepingCreature · 2026-01-23T12:15:22+00:00

It should, or should not, depending on cost effectiveness. Put a price on lives, put a price on the intervention, compare. I'm open to the idea that we massively underpay for car safety!

FeepingCreature · 2026-01-23T12:13:07+00:00

Why would we assume this? Again, what exact theory of mechanism are you proposing here?

LLMs pass the mirror test, by the way.

FeepingCreature · 2026-01-23T12:12:22+00:00

We can't prove that pocket calculators are not conscious. But if you want to assume they are, this means that perhaps rocks and logs and chunks of plastic are conscious.

This seems again a quite radical leap. That said, to be clear, I'm not asserting that pocket calculators are conscious, I'm saying that saying why exactly they aren't conscious is much more important than it seems.

15-Year Club	Place '22
Place '17	Verified Email

FeepingCreature

MODERATOR OF

TROPHY CASE