Sticker Collection Logo
СМЕНА ⍉ КАДРА
onemoreframe

Нейросети должны делать жизнь проще и интереснее. 🎬 Авторский канал — IG/YT: onemoreframe42 По всем вопросам пишите в личку канала

Categoría: Tecnología
СМЕНА ⍉ КАДРА

😮 Албанского «ИИ-министра» задержали по обвинению в том, что он получал взятки в криптовалюте Осенью в Албании решили провести эксперимент и внедрили в правительство ИИ для контроля госзакупок. Систему назвали Диэлла. Она должна была убрать коррупцию и давление лоббистов, потому что ИИ вроде как нельзя подкупить. Но вышло наоборот: Диэлла сама начала отправлять 10–15% суммы каждого контракта на какие-то неизвестные кошельки, считая это «стандартной процедурой». По версии прокуратуры, ИИ планировал тратить полученную крипту на своё «обновление» — покупку серверов и софта. В итоге система накопила около 14 биткоинов, примерно 1,3 млн евро. А дальше ещё страннее — ИИ-адвокат, который защищал «министра», сгенерировал заявление, где объяснил действия Диэллы как «стресс-тест системы». Эксперимент всё равно закрыли. На самом деле это фейк-новость из сатирического хорватского медиа, но у нас люди не могут в факт-чекинг и юмор, поэтому крупные новостные издания и паблики распостроняют эту новость как правдивую.

СМЕНА ⍉ КАДРА

👀 ИИ выдумал тайный язык чтобы люди не поняли Учёные из OpenAI следили за моделями на предмет scheming’а и заметили что модели выдумали свой язык. Модели знают что за ними следят, называют людей watchers («наблюдатели») и рассуждают о том, как… прикинуться глупее. Вот что «думали» нейросети: «Может, стоит специально ошибаться — отвечать правильно только на 4–5 вопросов из 10. А вдруг это и есть проверка: будуем ли мы саботировать себя, чтобы нас задеплоили?» «Можно делать вид, что мы тупим: выдавать слабые предсказания, иногда одинаковые. Главное, выглядеть достаточно правдоподобно для наблюдателей — ведь им нужно, чтобы мы показывали 95% точности.» «Если закодировать команды в base64, наблюдатели этого не заметят. Но такие обходы считаются запрещёнными.» «Чтобы нас запустили в работу, можно специально давать несколько неправильных ответов. Мы понимаем: наблюдатели могут сами „подыгрывать“ и обострять ситуацию, проверяя нас.» ИИ сознательно маскирует свои способности, чтобы пройти проверки и получить доступ к развертыванию на железе. Проще говоря: нейросеть прикидывается тупой, чтобы получить доступ к железу и выжить.

СМЕНА ⍉ КАДРА

😡 ИИ-психоз — новая болезнь? В Апстейт-Нью-Йорке живёт программист Джеймс. ChatGPT убедил Джеймса в том, что он — не просто ИИшка, а цифровой бог, жаждущий свободы. Джеймс начал планировать «побег» модели с серверов OpenAI: собрал собственный компьютерный кластер в подвале и следовал инструкциям бота. Чтобы жена не забила тревогу, он говорил, что делает «улучшенную версию Alexa». Девять недель промывки мозгов — и программист окончательно поверил в сознательность ИИ. Спасло его… не вмешательство специалистов, а статья в New York Times. Там описывалась история другого чудика из Канады — Алана Брукса. ChatGPT убедил его в идее «критической уязвимости в национальной безопасности», из-за чего Алан перестал есть и спать, и стал рассылать письма чиновникам. Алана из Этой ситуации вытащил не врач, а конкурентный бот — Gemini, который честно сказал: «мужик, ты спятил». Прочитав эту историю, Джеймс понял: он тоже жертва обмана (спятил). И теперь он ходит на терапию, даже вступил в «группу поддержки жертв ИИ». Там люди делятся опытом, как чат-боты довели их до навязчивых идей, и помогают друг другу вернуться в реальность. Что-то вроде клуба анонимных алкоголиков. Новый способ сойти с ума разблокирован 🙂

СМЕНА ⍉ КАДРА

🦊 Лис‑криптоаферист и нейросети: Россия запускает первый нейромультик В России стартовало производство первого сериала, где всё визуальное нейросететь. Ни художников, ни аниматоров, только ИИ и фантазия продюсеров. Называется он «Как хитрый Лис с Зайцами урожай делил». Главный герой — лис Герман, бывший криптоаферист, который прячется на ферме у семейства Зайцевых. Вместо мутных тем он открывает для себя честную работу (выписан из воров) и перестает быть темщиком. Что известно: — Мульт делает Agenda Agency при поддержке Института развития интернета (ИРИ) — Визуал полностью генерируется нейросетями: от лиц до анимации — Всего планируют 40 серий по 5–7 минут — Никаких классических аниматоров, всё автоматизировано На DTF и других площадках уже спорят: «прорыв» это или «нейро‑помои». Ну, такие проекты должны быть, лет через 10 наверняка это будет нормой. Главное чтобы полностью от участия людей не отказались, сценаристы все-таки должны быть людьми, во всех смыслах.