@Peter Weyand As for I am concerned, I wouldn't call you a nutter but I can't ... really follow you here because I don't get your problem to be honest. I'm on Mastodon and Friendica. Most of my interactions happen either with the local timeline or my "friends" feed, in case of Friendica even more so with a group of preferred people I enjoy interacting with on a daily basis. Haven't really looked outside this scope because I never saw the need for that, except while searching for some particular specific topics (which is a thing of its own, given the Fediverse still lacks a reasonable way of searching content). So personally, a messed-up Global feed isn't really _my_ problem. Rudely speaking, unfiltered global feed has been next to unusable on most of the instances I've seen so far, and most likely a "global feed" as in "show me _everything_ there is" is unusable in every medium of sufficient size. I however see three things here:

(a) Size. One of the frequently-announced thing is that the Fediverse should grow around small instances, in best cases individual instances. Knowing this is difficult, this might fix your problem seen on instances > 20 people. Get yourself a small crowd of people you trust and roll your own, knowing to block or defederate servers that cause havoc or are annoying to you and yours.

(b) ChatGPT and recognizing ML generated content. Sure, I think it's more than likely that ChatGPT and similar tools could be "weaponized" in such a way. This feels threatening, but I don't see this to be something a protocol such as ActivityPub could ever prevent. Maybe you have some suggestions on how to handle that?

(c) I don't get that last part of your messages ("... it's because this software doesn't work as advertised"). What exactly do you mean by that?

@VegOS

@…ᘛ⁐̤ᕐᐷ jesuisatire bitPickup

Not going to discuss this, much less with some maybe bot that's set to make me loose time or energy.

This is an interesting take that made me think very much. Maybe that's a dimension of the whole ChatGPT and ML "mess" we didn't even consider so far - does the mere existence of these tool also call for a new line of "defense" in our reasoning and communication, claiming we can't or won't try clarifying our views to each other because there's a legit assumption we're "just" discussing with a bot? That's quite scary.

That aside, well, I agree on that last part: Those are our tools and we'll have to work it out. Following Peters statement, I somehow get the feeling that there's an assumption of possibilities offered by ActivityPub which the protocol simply can't provide, and most likely both because it was never meant to do so and because these are social not technical issues and need to be addressed on a social not technical level. So far, I have yet to see a valid solution for all this "trust" issue that works without having met a human being "in person" once and exchanged some sort of "credential" that allows for re-recognizing them online as well. But hasn't it been like this ever since? Was that different back then in the age of mailing lists or news groups? It doesn't seem new, just more ... difficult with the arise of ChatGPT et al...?

@VegOS
@Peter Weyand

@Georg aus Bakum Sagen wir's so: Das Grundproblem (ich kann in den seltensten Fällen Informationen, die jemand postet, verifizieren) scheint mir unverändert zu bestehen seit Anbeginn der Massenmedien. Möglicherweise bekommt das mit ChatGPT oder anderen KIs eine zusätzliche Problemdimension, aber die sehe ich nicht nur im Fediverse, wenn ich ehrlich bin. Die Diskussion über Deep Fakes, über gefälschte, verfälschte, vollständig KI-erzeugte Videos und Bilder ist ja auch schon etwas älter. Aus meiner Sicht hat das Fediverse genau so wenig wie irgendein anderes Netzwerk dort Vor- oder Nachteile. Vielleicht(!) ist es im Fediverse mit geeignetem "Schnitt" von Instanzen (eher mehr kleine Systeme, Förderation nur mit ausgewählten Servern, mehr oder weniger rigoroses Blocken / Stummschalten) mehr technisches Werkzeug gegeben, um im Zweifelsfall handlungsfähig zu sein, aber die Frage, wer mir in einem Chat gegenübersitzt und mit welcher Motivation derjenige interagiert, kann Technik, glaube ich, nicht beantworten, zumindest nicht in einer Weise, die wir alle wollen (die andere Richtung wäre eine ganz hart durchgezogene digitale Identität, die in allen Fällen absolut plausibel klar macht, wer "wer" ist, wer welche Dinge wann postet - also der vollständige Verlust von Anonymität).

@Georg aus Bakum Das ist tückisch, weil die Verwendung des Wortes "Algorithmus" in diesem Kontext meistens problematisch bzw. missverständlich ist. Im "Allgemeinen" meint man hier, wenn man "keine Algorithmen" sagt, das Fehlen der Logik bei Twitter, Facebook, Instagram, ..., die Beiträge abhängig von der Menge der Interaktionen oder anderer obskurer Metriken nach oben spült und andere versteckt. Das Fediverse hat _selbstverständlich_ auch Algorithmen, weil Computer ohne Algorithmen nicht arbeiten können. Die Timeline ist chronologisch sortiert - Sortierung ist die erste grundlegende Aufgabe, anhand derer Informatik-Studenten gemeinhin lernen, was Algorithmen überhaupt sind. Chronologische Sortierung _ist_ ein Algorithmus. Der Art und Weise, wie Systeme miteinander förderieren, liegt ein Algorithmus zugrunde, siehe etwa hier:

https://jlottosen.wordpress.com/2022/11/08/how-do-you-eat-a-mastodon/
https://jlottosen.files.wordpress.com/2022/11/12b1b5e24edb287e.jpg?w=743

Das sind Algorithmen, die haben Randbedingungen und Eigenschaften, und wenn ich die Eigenschaften kenne, kann ich manipulieren, indem ich mit diesen Eigenschaften arbeite. Beispielskonstrukt: Ich habe eine chronologische Timeline, also werden Posts nach Datum absteigend einsortiert. So eine Timeline kann ich potentiell "fluten", indem ich in loser Folge extrem viel poste - dann sehen Leute, die mich in ihrer Home-Timeline oder meine Instanz in ihrer förderierten Timeline haben, quasi nur das, was ich will, oder müssen extrem viel scrollen (Algorithmen bei Twitter, Instagram, Flickr ... unterbinden das ganz gut). Oder: Ich erzeuge eine Instanz, auf der nur Unsinn gepostet wird (etwa von Bots, die in hoher Frequenz viel Content generieren). Wenn ich dort einen plausiblen Nutzer bekomme, dem jemand anders auf einer anderen Instanz folgt (oder mehrere Nutzer auf anderen Instanzen erzeuge, die meinem Nutzer auf meiner bösen Instanz folgen), dann wird die förderierte Timeline der anderen Instanz auch diesen ganzen Kram anzeigen. Das ist vereinfacht abstrakt formuliert; ich hab keine Idee, ob und wie die gängigen Implementationen (Mastodon, Friendica, ...) das technisch irgendwie unterbinden.
Lösungen wären etwa: Suspekten Nutzern oder Nutzern von suspekten Instanzen nicht folgen. Oder diese Instanz stummschalten / blocken. Oder erkennbare Accounts, die zu viel posten, stummschalten. Oder ...? Herausforderung dabei: Erkennt man, ob der Content, der gepostet wird, "Unfug" ist oder nicht? Ich glaube, Kernprobleme sind hier grundsätzliche Erwartungshaltung an die zugrundeliegende Technologie und Systeme sowie schwierige Vorstellung vom Begriff "Algorithmus". In den Beiträgen bzw Fragen hier scheinen mir sehr viele Dinge durcheinanderzugehen, die irgendwie miteinander interagieren, aber potentiell verschiedene Probleme sind.

@Das Leben ist schön Grundsätzlich wird es dort bessere Lösungen als bisher brauchen. Das Problem ist auch nicht gänzlich neu, siehe etwa https://pod.geraspora.de/posts/12359045 , das ist zwei Jahre alt (und das Problem kennen wir ja auch von E-Mail, auch wenn das vielleicht leicht abweicht). Ich vermute mal, es ... läuft tatsächlich viel auf die Frage hinaus, wie man mit dem System arbeitet. Das meinte ich oben in dem Thread - ich nutze die förderierte Timeline selten bis nie, habe Gruppen (auf Friendica) bzw. Listen (auf Mastodon) für "wichtige" Nutzer, deren Content und Themen mich interessieren, sortiere gelegentlich Accounts, denen ich folge, aus. Vielleicht löst sich einiges darüber ja über das Bewusstsein, dass die globale Timeline eben "nur" automatisch förderiert und per se damit unsortiert und unmoderiert ist. Bleibt noch der Umstand, dass durch Förderation mit potentiell "bösen" Instanzen Netzwerklast und Bandbreite entsteht. Das ist ärgerlich, und das braucht perspektivisch vielleicht auch noch mehr Lösungen analog der Spam- und Junk-Filterung bei E-Mail (Blacklisting, Greylisting, Austausch von Informationen über "garstige" Instanzen, ...). Oder eben das Unterbinden der Förderation der gesamten öffentlichen Timeline von Instanzen, sondern nur Förderation der Posts von Nutzern von dort, denen jemand bei mir lokal folgt. Weiß aber nicht, ob das (schon/technisch überhaupt) geht.

@Georg aus Bakum

@Georg aus Bakum Ich teile die letzte Einschätzung auch nicht, glaube aber, dass es eben eine rationale, nüchterne Sicht auf die Dinge gibt. Das Fediverse ist kein "silver bullet", ActivityPub auch nicht. Zentrale Systeme und verteilte Infrastrukturen haben aus vielen Perspektiven heraus sehr unterschiedliche Angriffsflächen und denkbare Bedrohungsszenarien. Das jetzige Fediverse versucht eine Reihe der Probleme zu korrigieren, die wir an den zentralen Systemen gefunden haben - vor allem etwa den Umstand, dass es eine einzelne, nur mäßig transparent arbeitende Struktur gibt, von deren Goodwill und Entscheidungen abhängt, wer kommunizieren kann und wer nicht, wer geblockt wird und wer nicht, ... . Das löst ein dezentrales System, indem es diese zentrale Instanz aufbricht, diese Entscheidungen auf viele kleine Schultern verteilt und beispielsweise einzelnen Communities die Möglichkeit einräumt, sich ihre eigenen Spaces mit eigenen Regeln zu schaffen, die sie vor niemandem begründen müssen. Sofortiger Nachteil dieser Übung: Wenn beispielsweise eine große Instanz wie chaos.social entscheidet, eine andere große Instanz wie mastodonten.de (wie vor einigen Jahren passiert) zu blocken, macht das für sehr viele Nutzer kurzfristig die Kommunikation kaputt. Ich glaube nicht, dass das Fediverse mehr oder weniger gefährlich ist - aber ich denke, wir tun gut daran, auch kritisch zu diskutieren und kritische Hinweise konstruktiv zu behandeln. Man sollte auch nicht vergessen: Am Ende des Tages war das Fediverse vor kurzem im Vergleich zu Plattformen wie Twitter oder Facebook eher ... klein. Mit der Größe kommen ganz sicher neue Herausforderungen.

Interessant etwa auch: https://www.jwz.org/blog/2022/11/mastodon-stampede/ : Wenn ich einen Link auf eine Website ins Fediverse poste, werden die Instanzen, die diesen Link sehen, den Server, auf den verlinkt wird, kontaktieren. Konsequenz: Habe ich einen Link, der in großem Umfang förderiert wird, greifen plötzlich potentiell ein paar tausend Instanzen völlig unkoordiniert auf den Server zu, auf den der Link zeigt. Wenn der Link auf einen Webserver auf einem RaspPi hinter dünner Leitung oder ein System wie https://solar.lowtechmagazine.com/ zeigt, kann das schon echt Stress bedeuten - oder umgekehrt die Anforderungen an Server- und Netzwerk-Ressourcen erhöhen, was wir aus verschiedenen Gründen (Stichwort mindestens Energiesparen) eigentlich nicht wollen.

Oder aber (hab den Link grad nicht mehr zur Hand) die Bitte eines Mastodon-Nutzers, große Videos bitte nicht über Mastodon zu teilen, weil das zur Konsequenz hat, dass die Videos (wie auch Bilder) vielfach zwischen Instanzen übertragen, lokal gespeichert werden und damit die Systeme voll-laufen lassen.

Das beides sind schon Dinge, die weder überraschen noch erschrecken, die aus meiner Sicht auch nicht grundsätzlich schlimm oder unbeherrschbar sind - aber eben Themen, an denen "zentrale" Systeme gewisse Vorteile haben können und mit denen sich die Fediverse-Community vermutlich irgendwann irgendwie beschäftigen will. Und die Frage, inwieweit Botnetze irgendwelchen Stuss tun können, indem sie die Systeme mit Content fluten, den man nicht will und maschinell schlecht filtern kann, wird möglicherweise auch dazugehören - siehe etwa auch die Qualität, die manche Spam- und Phishing-E-Mails dieser Tage haben und die so "gut" sind, dass diese Nachrichten selbst durch gute automatische Filter rutschen und Menschen Geld an Unbekannte überweisen.

@Das Leben ist schön@Peter Weyand

@Peter Weyand I have a mixed bag of thoughts about that. Not sure where to start. First off: Yes, you're right about making sure there's a human on the other end of the wire, unless you have some personal interaction to somehow validate that. In a way, that's what @Threema does with its different stages of contact labeling where you know a contact will be "green" only and only if you met that person and scanned a QR code on his/her device (and vice versa). At this point, you can use some sort of certificate that's robust enough to ensure this validation doesn't "break", and you can use reasonably robust encryption to make sure no one else except for that person can read messages if you desire ... for exactly as long as this person keeps control over her/his device. Take the device is stolen or (on a device level) taken over by a hostile party, this chain is broken again. And again, I ... see this not as something unique to activitypub or the fediverse but something that is true for every kind of medium, including written letters, phone calls or whatever you could come up with. Don't necessarily think this is bad - it's just "how it is". It's like, if you get involved into a chat on some particular topic in a park or a public place with some person, you also will have a rather hard time verifying his/her identity, though you know at least (s)he's a human at this point. Every medium can and eventually will be compromised, given technology is sophisticated enough to do so. Maybe it's important to have that in mind when communicating online, no matter where and how?
As for that other part, that idea of anonymously viewing content, that somehow feels funny because it seems to completely oppose that other idea - if I want to have a system very keen on accessing content anonymously, isn't it the very idea to leave as little clues as possible about who a particular actor is? For that example you described, this is one of the arguments quite some of the fediverse propoments come up with when talking about different instances dedicated to particular subtopics, social communities, ... : Of course you don't want to have just one account in there everything is tied to. You want several accounts for things you want to keep separated, much alike most people I know (at least in tech) do have at least two Twitter accounts - one for business and professional stuff, one for personal stuff, and they are _very_ careful not to have any links between them. And I think the fediverse actually is rather good here - it's pretty easy to have accounts that are as anonymous as they probably could be. So most likely you won't block people just to make sure they don't see which porn you're looking at - why even bother if you can be reasonably sure no one else out there knows who "you" in this particular case are? If you do that, however, you end up with your initial problem again - you have no idea who hides behind a particular account, whether it's the person it claims to be, or whether it's a person at all. That's a bit unsatifying, but then again.... hasn't it always been this way? In usenet? In IRC? On mailing lists? Maybe the "solution" here is to, for situation in which it matters, choose tools that do the job as good as they can - and in others, know as much as possible about the shortcomings of a particular tool to still act in a responsible and safe manner? I don't have any ideas that improve that without making it much worse at the same time...

@Georg aus Bakum