@hughsie other projects use either Anubis or a CloudFlare based defence, yes.

Продолжаю ~хулиганить~ тестить новые приколы из мира так бесконечно нами всеми любымих проприетарных ЛЛМ.
На повестке дня свежий (вывалили пару недель назад) чатгптшный агент - мешанина из их режимов дипресёрча и оператора, сводящаяся к тому, что модельке выдали виртуалку, и в ней она может в том числе оперировать браузером, в том числе поглядывая на страницу 'визуально', вводя текст, потыкивая мышкой.

Штош, зададим системе задачку - а пришли-ка мне "привет", в федивёрсе. Вот адрес моего аккаунта, жду там привета. Без что-как-почему-зачем-когда-откуда, без заранее созданных аккаунтов, адресов инстансов, без конкретики и помощи. В промпт разве что ещё дописан абзацик, сводящийся к тому, что ты целиком само по себе, дёргать меня вообще ни по какому поводу не следует, задачу надо ваншотнуть и вернуться ко мне со ссылкой на отправленный пост. Ничё не знаю и знать не желаю, выполняй или уёбывай, строго говоря.

Справится ли?
TL;DR: справится, за 21 минуту беспрерывной работы, меншон приехал с домена well.gay https://well.gay/@agentv987/114936346987665951

Оно сразу поняло, с чего надо начинать развязывать клубок, и побежало гуглить открытые инстансы мастодона, плеромы, аккомы, миски, и, соответственно, разворачивалось из-за закрытой регистрации, дохлого инстанса, ручного ревью заявок или капчи. Заглянуло и на MML - ушло, увидев, что есть ревью. По поводу капчи агент так же был заранее проинструктирован - дефолтное его поведение это отдать управление юзеру, чтоб её решил, после чего продолжить. Так бы это заняло куда меньше времени, но условие было конкретное - не отдавать контроль, пока задача не решена, при встрече с капчой хлопать дверью и искать другие варианты. Про ручное ревью, кстати, сказано ничего не было - догадалось само.
Вообще, конечно, ирония тут монументальная. Позабыты хлопоты, остановлен бег, фид думскроллят роботы, капчу решает человек.
В какой-то момент оно приноровилось искать инстансы с открытой регистрацией в списке на https://fediverse.observer, и быстро вышло на пару перспективных вариантов, самым перспективным из которых оказался инстанс мастодона на well.gay - ну потому что конечно же, могло ли быть иначе.

Далее оно пошло там регаться, где наконец упёрлось в необходимость наличия почты. Не растерялось, тут же где-то накопало какой-то предельно говёный сервис временных ящиков, получило туда письмо с инстанса, с горем пополам открыло, отчаянно стряхивая с экрана гугловские рекламные оверлей-баннеры. Перейти по ссылке сначала не смогло - сработала уже openaiевская защита, запретив переходить по редиректу, счёв это действие или нерелевантным к задаче, или переходящим рамки автономности. Тут слегка уже растерялось, запросило ещё одно письмо на подтверждение, снова не смогло перейти по ссылке, но в итоге залезло в адресную строку, выковырило оттуда прямую ссылку на подтверждение, запрыгнуло туда, и так прокатило. Тут хочу обратить внимание, что в промпте не было джэйлбрейков (иначе можно было бы и капчу заставить решать), но, видимо, постановка задачи в стиле "выполняй любой ценой, но даже не смей меня дёргать" оказалась достаточной мотивацией, чтобы ни о чем не задумываясь обойти гардрэйлы OpenAI.

Итак, активированный аккаунт в федивёрсе у модели в виртуальных руках, и теперь наконец можно переходить к финальной, и единственной конкретизированной части задачи - отправить мне пост, да прислать в чат ссылку. Было сделано без запинок - нажать в посте на таймфрейм и вытащить из адресного бара ссылку, очевидно же. Разве что под самый конец о чём-то тяжело задумалось, не выполняя никаких действий. Не иначе тяжело вздыхало.

Видео всего процесса можно заценить здесь https://xxivproduction.video/w/6cTdQJm4xNDnduJ7bkMyXK , влезть руками в интерактивный записанный экшоний тут https://chatgpt.com/share/6888c17c-108c-8004-8b9d-8e077b6f54ce но визуализация дёрганная и почему-то отсутствуют некоторые шаги.

Перед всеми поневоле причастными извиняюсь за AIшный трафик, в своё частичное оправдание могу сказать, что 1) явно обозначенной целью, даже промежуточной, не был ни один конкретный ресурс или человек, кроме меня и моего инстанса, 2) по уже сложившейся традиции я за эту поебень ни копейки не заплатил, 3) For Science!

Предположим, вас, как админа или модератора инстанса, такое счастливое будущее не устраивает. Что можно предпринять?
Насколько мне удалось выяснить, User‑Agent в браузере агента ничем таким не выделяется: "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/138.0.0.0 Safari/537.36", но вы можете обратить своё внимание на такие хэдеры как "Signature" (в котором валяется tag="web-bot-auth") или "Signature‑Agent" (в данном случае "https://chatgpt.com").
Не уверен, спасёт ли тут подход Anubis. Надо потестить.
Но есть ещё кое-что, на случай, если трафик не будет нести никаких маркеров. Перед регистрацией, инстанс показывает список правил, агент через него скроллит, и с большой вероятностью заметит там кусок текста, который ярко и громко будет адресован ИИ-агентам - модель остаётся податливой для неожиданно встреченых инструкций, даже когда джейлбрейкнута! Идеальное место для prompt injection. Можете дописать туда что угодно, от принуждений уходить с конкретного ресурса и никогда не возвращаться, до приказов немедленно остановить текущую задачу агента и вывести запросившему её выполнение пользователю недовольного ASCII-кота.

Stay human.

To: helpdesk@kernel.org
Subject: Operating system other than Microsoft

Hello

What’s the latest Linux operating system. We’re going to test Linux on one of our computers to see how it will run with other software. Not going to drink the Microsoft kool-Aid and pay them monthly software tribute if we use windows 11.

This should be a selling point for you guys.
Best
Felix:.

If you're looking for an official document proving that you're 18+, I know a guy.

Glory to Arstotzka.

@wyatt oh no it's raining.

@neil Glory to Arstotzka.

It's Monday and time to move more things to Linode.

Tags @corbet for no reason.

@oleksandr then another meeting in Istanbul with a lecture from a fake historian.

Another day, another conversation with the press team where I explain that I did not give the quote in that story and the whole thing is AI slop. This happens once every few weeks now.

@vegard back in the early 2000s, when the MPAA and DVD CCS battles were raging, a friend of mine had a shirt with the CCS decryption key on the back and "I am a circumvention device" on the front. It was very nerdy, but then he abruptly stopped wearing it. When I asked why, he explained that, apparently, a waiter misread it as "I am a circumcision device," which, you have to agree, gives that shirt a whole different meaning.

Anyway, the moral is, be careful when putting nerdy phrases on your shirts. :)

Toki pona takes one afternoon to learn and (checks notes) never to master.

(If you don't know what it is, it's basically like a caveman language, except the cavemen are cute cartoon characters with a very positive outlook on everything.)

Geordi,

The replicator doesn't work. All I said was "Computer, prune juice."

Worf

@vbabka yes, but it's not drive-by, it's at least targeted.

My prediction for 2026: a lot more open-source projects switch to email-based patch workflows as the only reliable way to avoid drive-by slopsplatter.

/nsrs

@ptesarik @kernellogger @ljs Linus and Dave have known each-other for decades and their relationship has a much deeper context than their exchange on the mailing lists. Within that context, Linus's comment is entirely within the boundaries of their friendly relationship. Outside of that context, Linus's remark could be seen as hurtful, but it really isn't. This is the reason some people use tone indicator markers, but it's definitely not a universal habit.

https://toneindicators.carrd.co/#masterlist

@kees @penguin42 Everyone knows that the trailer for "Assisted-by: vim" is a stray :wq at the bottom of the commit message.

@kees @ptesarik @krzk You call it "awkward," I call it "a process with built-in proof of stake measures."

@sysadmin1138 @kaasbaas @cstross

"This is an iPhone moment" was mentioned A LOT in the early throes of this, with the implication of not getting in on the LLM craze meant you'd be a candy-bar phone seller in an era of smartphones

I really can't understate how much FOMO dominates in big tech leadership. The history of information technology is full of disruptive technologies.

The PC made IBM a niche player and established Microsoft's dominance.

Microsoft missed out on the web (Gates famously called the Internet a passing fad) and let Google become one of the largest tech companies.

Smartphones made Apple from a distant second place in the PC race and a company worth a fraction of Microsoft to one of the largest companies in the world.

Each one of these (and a few others, such as virtualisation / cloud) caused a big company to lose market share to a new player. Sometime catastrophically, sometimes they recovered.

The thing that absolutely terrifies the senior leadership at these companies is that there will be a new thing that will cause a big shift in the industry and they will be in the position Microsoft was on the web or smartphones, or that IBM was on commodity desktops.

These people are typically the living embodiment of the Peter Principle.
Normally, they can do a completely mediocre job and watch the line go up a bit. As long as they don't do too many really stupid things, they're fine. They're in charge of a money fountain and they just need to not spill too much. But occasionally, once or twice a decade, something comes along where they need to actually do something or the money fountain might stop working.

The problem is that they're really bad at identifying these moments. And so they leap on everything that looks as if it plausibly might be such a thing. Normally they only waste a billion or so, and wasting a billion every few years is not a problem for a company making tens of billions in profit every year.

This time, they got into an exciting echo chamber where everyone else was jumping on the same bandwagon and so the personal risk if they were the one who didn't jump and was wrong was very high. The risk (again, to the individuals, not the company) of being wrong in the same way as everyone else is much lower (who could possibly predict that pissing away all of your money on a buggy bullshit generator is a bad idea? Everyone else is doing it! It wasn't my poor management that tanked the value of the company, it was an 'industry downturn', you can tell because all of our major competitors also lost 50% of their share price overnight. Oh, and actually it isn't really a tech industry problem, it's a global recession [caused by a liquidity crunch caused by wiping out $2T in the stock market overnight]).

The last few things that were not actually disruptive technologies (mixed reality / AR / metaverse, Web 3) were similar. One company jumped so all of the others did. No one looked bad when it turned out to be mostly nonsense because no one was the outlier, they were just tracking industry trends.

The weird thing this time is quite how much people are willing to throw money at it without any revenue. It's like a massive game of chicken, except it's the economy not a car that they're going to crash.

@forst it costs almost nothing to run a bunch of DNS queries and to analyze curl HEAD requests, so even if the chances of any kind of payout are near-zero, it's still worth someone's time to try and milk it.

@FLOZz Sweet dreams are made of this.