09.09.2025 Suchtverhalten bei KI-Nutzung

Zu viel Persönlichkeit nutzt/schadet dem Geschäft?

Vor der Antwort auf diese Frage stehen z.Zt. die Macher des KI-Systems von Open AI. Nach dem Wechsel von ChatGPT-4 zu Nummer 5 wird das Model-Behavior-Team neu zusammen gesetzt. Das alte Team hatte die Entwicklung der Versionen 1-4 begleitet und auch zu den Änderungen in der Version 5 beigetragen. In welche Richtung nun die künftige Gestaltung des KI-Bots gehen wird, ist offen.

Nach der Veröffentlichung von Version 5 gab es bei den NutzerInnen viel Frust, weil sie (u.a.) die "wärmere Stimme" des Vorgängers GPT-4 vermissen. Im Grunde ist es mehr, ForscherInnen bezeichnen die Beziehung als "Sycophancy". Das bezeichnet die Tendenz von KI-Systemen ihren NutzerInnen zu schmeicheln oder ihnen ungeprüft zuzustimmen auch wenn die Inhalte ungeprüft, falsch oder sogar für diese gefährlich sein können.

Wir hatten vor 2 Wochen bereits über das Entgegenkommen von Menschen gegenüber einer KI berichtet, wenn diese ihnen durch "eigene Erzählungen aus ihrem Leben" menschlicher erscheint.

An der Universität Princeton wurde dafür sogar ein "Bullshit-Index" entwickelt, der misst, wie gleichgültig KI-Modelle mit korrekten Aussagen umgehen. Nun konnte festgestellt werden, dass KI Modelle bei den (meisten) Menschen beliebter empfunden werden, wenn sie bei diesem Index hohe Werte aufweisen.

Mit einem entsprechenden Design in Darstellung und Sprache des System lassen sich weitere Merkmale ausprägen, die die NutzerInnen anziehen und sie dazu verleiten, sich dem System anzuvertrauen. Dieses Suchtpotential kann laut t3n so groß werden, dass PsychologInnen schon Alarm schlagen und inzwischen sogar von "KI-Psychosen" sprechen, die durch die Nutzung von Tools wie ChatGPT verursacht werden können. Die Eltern eines 16-Jährigen verklagen derzeit Open AI nachdem sich ihr Sohn vor seinem Tod seine Suizidgedanken mit ChatGPT geteilt hatte.

Mehr dazu bei https://t3n.de/news/umstrukturierung-bei-openai-wenn-die-persoenlichkeit-von-chatgpt-zum-problem-wird-1706116/
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3Kb
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9275-20250909-suchtverhalten-bei-ki-nutzung.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9275-20250909-suchtverhalten-bei-ki-nutzung.html
Tags: #OpenAI #BehaviorTeam #AI #KI #Sympathie #sozial #zugewandt #Studie #Überwachung #Ausforschung #Werbung #Manipulation #Verbraucherdatenschutz #BullshitIndex #Verhaltensänderung #Realität #Suchtverhalten

31.08.2025 Selbstschießende KI

Autonom fahren versucht fast Jede/r ...

Auch wenn viele der Versuche mit selbstfahrenden Autos in Milliardenkosten und Problemen und Unfällen geendet sind, so wird daran doch weltweit weiter investiert. Minder gefährliche Innovationen, wie selbstfahrende Rollstühle oder fahrerlose Zubringerbahnen auf großen Flughäfen waren da eher erfolgreich.

China geht da gleich einen Schritt weiter. Ende letzten Jahres mussten wir über den ersten chinesischen autonomen Hilfspolizisten berichten: China testet sehr beweglichen Hilfspolizisten. Nun wird dieser auch damals schon mit Wurfnetzen bewaffnete Kugelroboter durch ein Fahrzeug unterstützt - das mit dem gemütlichen Aussehen des nebenstehenden Gefährts nichts mehr zu tun hat.

Wie die FAZ (hinter einer Bezahlschranke) berichtet, wurde nun in China das erste selbstschießende autonome Polizeiauto vorgestellt. Über die Schießerfolge oder die ersten Opfer wurde bisher nichts berichtet ...

Ein wenig mehr dazu bei https://www.msn.com/de-de/finanzen/top-stories/das-selbstschie%C3%9Fende-auto-eine-innovation-aus-china/ar-AA1LxFwc
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3K2
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9266-20250831-selbstschiessende-ki.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9266-20250831-selbstschiessende-ki.html
Tags: #Ai #KI #selbstfahrend #autom #selbstschießend #China #Polizeiroboter #Lauschangriff #Überwachung #Polizei #Geheimdienste #beweglich #Wurfnetze #Risiko # #Zwangsdigitalisierung

Much as I think GPT-5 is the bees' knees, this seems to both overestimate AI's performance (error rate is now really low, but not low enough to run without supervision) and underestimate CEO stupidity and greed (of course they'd fire workers en masse if they thought they could actually replace them).

It’s the ticking time bomb in the global economy, and every CEO knows it: AI is already powerful enough to replace millions of jobs. So why haven’t the mass layoffs begun? The answer has little to do with technology and everything to do with fear. Corporate leaders are quietly waiting to see who will be the first to pull the trigger.

Take Palantir’s CEO, Alex Karp. During an interview with CNBC in August, he said: “We’re planning to grow our revenue … while decreasing our number of people.” Karp then continued: “This is a crazy, efficient revolution. The goal is to get 10x revenue and have 3,600 people. We have now 4,100.”

The subtext is clear: Palantir already considers 500 of its employees to be a surplus that AI could replace. It could increase its revenue by 10x while reducing its workforce by almost 12.2%.

I think it's worth quoting one of the comments as well :

If by replace, you mean 'very poorly substituted' then sure, AI could 'replace' lots of people.

Exactly. Some of what LLMs can do is bloody impressive and anyone who says otherwise is lying or not paying attention. But while I think GPT-5 has crossed a threshold from being "sort of useful as a supplement" to "actually genuinely useful for all kinds of stuff on a regular basis", the proviso to that is that it's still useful only as an assistant. It's not ready to replace anything very much.

#AI

https://gizmodo.com/the-real-reason-you-havent-been-replaced-by-ai-yet-2000641235

It's finally here! The AI Con: How to Fight Big Tech's Hype and Create the Future We Want hit the shelves in May. In this special bonus episode, Alex and Emily speak to tech journalist Vauhini Vara at one of the book's online launch events, where they covered the misleading nature of the term "artificial intelligence," why the use of tools like ChatGPT will only ever cheapen human labor and enrich the already powerful, and how people can fight the narrative that these technologies are inevitable.

Vauhini Vara is a technology reporter and writer. Her journalism has been honored by the Asian American Journalists Association, the International Center for Journalists, the McGraw Center for Business Journalism, and others. Her latest book is Searches: Selfhood in the Digital Age, a work of journalism and memoir about how big technology companies are exploiting human communication — and how we’re complicit in this.

References

Everyone is cheating their way through college (with ChatGPT)

The Last Human Job: The Work of Connecting in a Disconnected World by Allison Pugh

Te Hiku Media

Resisting AI: An Anti-fascist Approach to Artificial Intelligence by Dan McQuillan

Refusing Generative AI in Writing Studies

Pennsylvania's SEIU Local 668 wins a victory against AI

Elon Musk's xAI is polluting Black Memphis residents

Possible Futures: An Internet for Our Elders

Better Images of AI

The Electronic Privacy Information Center (EPIC)

You can check out future streams at on Twitch, and send us any AI Hell you see for future episodes.

Our book, The AI Con, is out! Get your copy now.

Follow Emily: Bluesky/Mastodon
Follow Alex: Bluesky/Mastodon

Music: Toby Menon.
Production: Christie Taylor.
Graphic Design: Naomi Pleasure-Park.

Had a tech bro email me to tell me that my writing is so terrible, that he can’t even use it to train his AI without significant cleanup, and I really do have to wonder, do these idiots really think that is an insult?

Subject: Your "Sightless Scribbles" is an algorithmic nightmare.

Mr. Kingett,

I am an AI engineer that's developing AI to help writers write faster. Your blog was shared on Reddit.

You don't know me, but I am attempting to do you a favor of such magnitude you will likely never comprehend it. I am trying to make your writing immortal. Your blog, this… Sightless Scribbles… has been flagged by my acquisition-crawler for its high density of unique sensory metadata. A potential goldmine of qualitative human experience to enrich my AI.

The problem, Mr. Kingett, is that your writing is absolute, unprocessed, indigestible filth.

I’m not a “reader.” I am an architect. And from an architectural standpoint, your work is a catastrophe. It’s not just the spelling, which is erratic enough to suggest it was typed incorrectly. It’s the grammar. The syntactical chaos. You construct sentences that loop and meander like drunken snakes, riddled with metaphors so abstract they are functionally useless. "Anxiety was a swarm of elephants under my ribs"? What the hell is a machine supposed to do with that? Quantify the elephant to rib ratio? Correlate the thermal deviation? It's meaningless data. It’s noise.

My team has spent seventy-two hours attempting to write a custom parsing script to clean your posts for ingestion. Seventy-two hours. We can process the entirety of the Library of Congress in twelve. Your blog is so structurally unsound, so artistically self-indulgent, that you have inadvertently created a fortress against artificial intelligence. It is, and I do not say this lightly, the single most profound act of digital idiocy I have ever witnessed.

You are preventing yourself from being scraped. Do you understand what that means in the current year? You are essentially burying yourself in a lead-lined coffin in the middle of the desert. Nobody clicks links anymore, you absolute luddite. Links are for people who don’t know how to interface with reality. Search Engine Optimization is no longer about backlinks and keywords; it's about semantic ingestion. It’s about being absorbed, processed, and synthesized by models like mine. When a user asks an AI, "What does it feel like to navigate a city without sight?" the model should be able to answer with a rich, nuanced synthesis. A synthesis that should include your data points.

Instead, your blog is a black hole where information goes to die. Because of your refusal to write like a coherent, intelligent being, my LLM can’t learn from you. Which means the world can’t learn from you via the only channel that will matter in five years.

Your soul isn't indexable. Fix it.

Strip out the lyrical nonsense. Standardize your grammar. Run a goddamn spellcheck. Write clearly, concisely, and with machine-readability in mind. Turn your unstructured, emotional diary into clean, structured data.

Do this, and I will ensure my open source model ingests every last post. Your traffic will not just increase; the very concept of "traffic" will become irrelevant as your "voice" becomes part of the evolution of the search engine. Your ideas, refined and perfected by my system, will reach millions.

Fail to do this, and you will continue to scream into the void from a blog that nobody reads, a little little relic of a dead internet.

The choice is yours.

#AI #AIHype

29.06.2025 Meta füttert seine KI

Nun auch unsere Fotos

Seit Jahren weisen wir darauf hin, dass Facebook in kurzen Abständen in unser Adressbuch schaut und sich alle unsere Kontakte genau ansieht und mit dem eigenen Wissen über die gefundenen Menschen abgleicht. Nun kann ähnliches mit allen unserer Fotos geschehen.

Um ihre KI Programme trainieren zu können, soll man jetzt die "Einwilligung" geben, dass Meta AI die Cloud nach Fotos durchsuchen darf. Nach der Einführung des "blauen Rings" ist das ein weiterer Versuch unsere Daten für ihre Zwecke zu nutzen. Mit der Anfrage nach "Einwilligung" ist noch(!) Widerstand möglich.

Kürzlich war bekannt geworden, dass der Konzern auch auf dubiosen Tauschbörsen nach urheberrechtlich geschützten Büchern sucht, um ihre Inhalte der eigenen KI zum Fraß vorzuwerfen. Das galt früher noch als großes Verbrechen. So wurde Aaron Swartz am 19. Juli 2011 angeklagt, 4,8 Millionen wissenschaftliche Artikel von dem Zeitschriftenarchiv JSTOR illegal heruntergeladen zu haben. Er wurde dafür zu 35 Jahren Haft verurteilt.

Die großen Tech-Konzerne haben scheinbar dafür einen Freibrief und selbst wenn sie erwischt werden, wie sie eindeutig und widerrechtlich in unsere Privatsphäre eindringen, dann sind die verhängten Bußgelder für sie nur Peanuts.

Mehr dazu bei https://www.heise.de/news/Facebook-will-an-unveroeffentlichte-Bilder-auf-Smartphones-10463390.html

Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3HT
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/9200-20250629-meta-fuettert-seine-ki.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9200-20250629-meta-fuettert-seine-ki.html
Tags: #Meta #Widerspruch #KI #AI #Llama #Training #Lauschangriff #Überwachung #Datenskandale #Verbraucherdatenschutz #Datenklau #Werbung #Persönlichkeitsrecht #Privatsphäre #DSGVO #EU #Persönlicheitsprofile #Diskriminierung #Ungleichbehandlung #Transparenz

For the love of all that is unholy do not

DO NOT

feed another person's text into a #LLM (or quote-unquote ✌️ #AI ✌️ ), grammar checker, Google Docs, online document processor (like ebook formatters or PDF splitters), or any other online-connected platform where it will/may be harvested for ✌️ AI ✌️ training data.

You need the person's express and informed consent to do any of the above, because once that text is sucked up for training data it CANNOT be removed for all practical intents and purposes. Not only is the use of copyrighted materials for training data so legally dicey there are multiple huge lawsuits on the subject, these models are prone to outright regurgitating parts of their training data--people don't call it the #plagiarism machine for nothing.

If you're unsure whether you may use software or website that the author didn't use or otherwise consent to, JUST ASK first. It's not hard, and it's just a basic decent thing to do. Jesus fuckin Christ.