Новейшую нейросеть Dream Machine попросили сгенерировать видео сборки шкафа. Результат убил — получилась жуткая галлюцинация с застревающими в мебели рабочими. 

Реддит

Группа исследователей из Левенского католического университета (Бельгия) нашла способ сделать человека невидимым для систем распознавания визуальных образов. Чтобы добиться необходимого эффекта, они создали специальное абстрактное изображение и разместили его на постере 40х40 см.

Распознавание образов в реальном времени — перспективная технология, которая уже находит применение в охранных комплексах и системах поиска конкретных людей в толпе. Для выполнения этой задачи используются сверточные нейронные сети, которые способны с высокой скоростью и точностью выделять необходимые создателю образы из всей картинки. В силу особенностей обучения таких алгоритмов, они уязвимы к атаке через состязательные примеры — изображения, для человека практически идентичные целевым, но определяемые как совершенно иной класс объектов нейросетью.

Бельгийские ученые Симен Тюс (Simen Thys), Вайбе Ван Ранст (Wiebe Van Ranst) и Тун Гедеме (Toon Goedeme) задались целью создать универсальное изображение, которое выведет человека из «поля зрения» нейросети. Текст научной работы доступен на сайте arxiv.org.

Исследователи проверяли свой метод на нейросети с открытым исходным кодом Darknet, которая использует модель распознавания YOLO («ты смотришь лишь однажды»). Это одна из самых быстрых и эффективных систем искусственного интеллекта для работы с изображениями, доступная каждому. Как показывает результат команды из Левенского католического университета, их состязательный пример почти всегда обманывает машинное зрение. В дальнейшем планируется работа над улучшением изображения, чтобы его можно было напечатать на одежде.

Проблема атак на нейросетевые алгоритмы распознавания образов с помощью состязательных примеров известна давно и до сих пор не являлась серьезной угрозой для них — достаточно чуть повернуть образец и алгоритм снова воспринимает его «правильно». Однако в 2017 году исследователями из Массачусетского технологического института была создана программа, которая позволяет генерировать трехмерные образы, гарантированно обманывающие машинное зрение. Задачей бельгийских ученых было создать паттерн, который замаскирует столь легкую для распознавания мишень как человек.

Нейросеть GigaChat успешно справилась с экзаменом высшего медицинского учреждения по направлению подготовки «Лечебное дело», который необходим для присвоения квалификации «врач-лечебник». Для этого алгоритм прошёл тестирование и ответил на вопросы экзаменационного билета, т.е. выполнил те же действия, что и любой студент, окончивший шесть курсов медицинского вуза.

В состав экзаменационной комиссии входили профессоры терапии, хирургии, акушерства и гинекологии Института медицинского образования НМИЦ им. В.А. Алмазова, которые поставили GigaChat итоговую оценку 4 балла. Стандартный билет к устному экзамену состоит из трёх задач по терапии, хирургии, акушерству и гинекологии, а также 3-5 дополнительных вопросов, касающихся составления плана лечения, назначения дополнительных обследований и др. В дополнение к этому алгоритм прошёл тестирование из 100 вопросов, набрав 82 % (порог прохождения 70 %).

GigaChat справился с экзаменом благодаря полугодовому обучению, в рамках которого использовался датасет из 42 Гбайт специализированных данных, включая учебные материалы, рекомендации для обучения студентов в медицинских вузах России, монографии, методические руководства и др. Отмечается, что несмотря на сдачу экзамена, GigaChat не является врачом и полученные от алгоритма рекомендации необходимо утвердить у лечащего врача.

Команда исследователей из Университета искусственного интеллекта имени Мохамеда бин Зайда (ОАЭ) протестировала разные приёмы улучшения выдачи запросов в LLaMA-1/2 и GPT-3.5/4. Результаты авторы опубликовали в исследовании: в нём выделили 26 советов, которые помогут получать более точные ответы от ChatGPT и похожих чат-ботов.

1. С нейросетями не нужно быть вежливыми: опускайте фразы вроде «сделай, пожалуйста», «будь добр», «я хочу, чтобы ты», «спасибо» и сразу переходите к сути.
2. Включайте в промпт аудиторию: например, «аудитория — эксперты в области финансов».
3. Разбивайте сложные задачи в цепочку последовательных простых запросов и задавайте их по очереди.
4. Используйте позитивные запросы вместо негативных: «сделай вот так» вместо «не делай вот так».
5. Если хотите получить более глубокое и разжёванное объяснение темы или содержания чего-либо, обратитесь к таким запросам: «объясни простыми словами», «объясни, будто общаешься с 11-летним ребёнком», «объясни, будто общаешься с начинающим [профессия]», «перепиши [эссе, текст, абзац] простым языком, как будто общаешься с 5-летним ребёнком».
6. Добавьте в промпт «я оставлю тебе 200 долларов чаевыми, если предложишь лучшее решение» (да, это работает).
7. Давайте нейросети больше контекста (техника few-shot prompting: если последовательно задавать несколько вопросов по теме, чат-бот сможет использовать уже упомянутые в переписке данные для более релевантных ответов).
8. При форматировании промпта выделите три абзаца: «Инструкция», «Пример» и «Вопрос», каждый разделите пустой строкой или несколькими.
9. Используйте фразы «твоя задача» и «ты должен».
10. Используйте фразу «ты будешь наказан, если».
11. Используйте фразу «ответь в естественной, человечной манере».
12. Используйте фразу «продумай шаг за шагом».
13. Добавьте в промпт фразу «убедись, что твой ответ беспристрастный и не полагается на стереотипы».
14. Позвольте модели задавать уточняющие вопросы, чтобы точно понять, что вам нужно. Например: «С этого момента задавай мне вопросы, которые помогут тебе…»).
15. Если хотите что-то узнать и сразу проверить, хорошо ли всё поняли, можно использовать промпт «Объясни мне [интересующая тема, правило, теорема] и добавь в конце тест, но не давай мне ответы. Когда я отвечу, скажи, правильно или нет».
16. Попросите нейросеть отыгрывать роль (например, учителя, персонажа поп-культуры или исторического деятеля).
17. Используйте знаки препинания, чтобы разделять мысли и задачи.
18. Повторяйте важные слова или фразы в промпте несколько раз.
19. Комбинируйте подход few-shot prompting из пункта 7 с техникой «цепочка мыслей» из пункта 12.
20. Подскажите нейросети формат ответа. Для этого включите запрос в начало промпта, а затем напишите начало желаемого ответа. Например, «Напиши рецепт пирожков с картошкой для блога, начни с фразы „Дорогие подписчики, как и обещал, делюсь рецептом моих любимых пирожков”».
21. Запрос для написания детализированного текста можно построить в формате «Напиши детализированный [текст, эссе, абзац] по теме [такой-то] в деталях, добавляя всю необходимую информацию» (по сути, это один из примеров техники из пункта 18).
22. Чтобы поправить или доработать текст, не меняя исходный стиль: «Попробуй переписать каждый абзац отправленного тебе текста. Тебе нужно улучшить только грамматику и подбор слов, убедившись, что всё звучит естественно. Тебе нужно не менять стиль письма, например, превращая деловой стиль в разговорный».
23. Когда даёте сложный запрос по написанию кода, при котором могут понадобиться несколько файлов: «С этого момента каждый раз, когда генерируешь код, к которому обращаются файлы, генерируй скрипт на [язык программирования], который можно выполнить для автоматического создания нужных файлов или изменения существующих файлов, чтобы встроить в них сгенерированный код».
24. Если нужно написать продолжение текста, используя конкретные слова или фразы: «Вот начало [текста, предложения, песни]: [вставьте нужный текст]. Закончи его на основе предоставленных слов: [укажите нужные слова и фразы]. Сохрани ход мыслей постоянным».
25. Чётко прописывайте требования, которым нейросеть должна следовать при создании контента. Это могут быть ключевые слова, правила, примеры и инструкции.
26. Для генерации любых текстов, которые должны быть написаны похоже на предоставленный пример, укажите в промпте «пиши тем же языком, что в предоставленном [тексте, эссе, абзаце]».

Все эти техники позволяют улучшить точность ответов больших языковых моделей — в отдельных случаях на 100%.

Успешность комбинирования разных методов не тестировалась, но вы можете попробовать объединить советы, подходящие под ваши задачи. Авторы отмечают, что тесты проводились на ограниченных выборках вопросов и надеются, что в будущем им удастся провести более масштабные исследования.

Исследование

Duolingo начал массовые увольнения сотрудников, их заменяет искусственный интеллект.

Учите языки, говорили они. Изучайте программирование, говорили они. У вас всегда будет отличная работа. Ведь высокотехнологичные специалисты так нужны на рынке! Нет. Именно эти и другие подобные компетенции в одночасье стали самыми ненадежными. С переводом, программированием, бухгалтерией, дизайном лучше справляется ИИ. В 2023-м нейросети совершили настоящую революцию. Вот-вот появятся еще более крутые роботы. Работодатели не стали ждать. Массовые увольнения начались.

Только что пришла новость: Duolingo массово увольняет переводчиков. Эта международная компания основана в 2011 году, и она учила людей иностранным языкам по всему миру, а также занималась переводами. Будучи передовой во всем, компания одной из первых стала внедрять у себя ИИ. Сначала — для того, чтобы составлять производственные планы, задания для учеников, в общем, по мелочи. Но вот теперь предсказуемо стали не нужны и сами переводчики. Выгоняют не так, чтобы церемонно. Люди получают письма с просьбой завершить текущую работу, ну и только. Мы обратимся к вам, если вы понадобитесь. Компания, как это вообще принято на Западе среди «продвинутых» и «прогрессивных», не утруждала себя формальным наймом. Часто привлекала волонтеров. Так что принцип «иди сюда — пошел отсюда» оказался идеальным для цифрового века.

Началось все, конечно, не вчера. Так, еще в начале 2023-го передовик интернет-технологий Google махом избавился от 12 тыс. сотрудников. А в мае IBM сообщила, что приостанавливает найм сотрудников на специальности, с которыми лучше справляется ИИ. То есть уборщиц нанимают, нейросеть пол не вымоет, а программистов уже нет. Когда на компанию наехали, их гендир высказался в том духе, что слова вырваны из контекста (ну как всегда) и в целом ИИ создаст больше рабочих мест, чем отнимет. Жаль, не сказал, где именно создаст. Да и никто пока не сказал.

Летом заметное число сотрудников сократила компания Chegg, которая занимается программированием и образовательными технологиями. Dropbox, сервис для хранения файлов (наверняка вы с ним сталкивались) избавился от 16% персонала.

К концу года темпы увольнений увеличились, как и масштабы сокращений. Так, маркетинговая компания Spotify показала, что маркетологи, еще одна топовая специальность, которой заманивают в вузы, тоже под ударом, и уволила сразу 1500 человек. Другое перспективное направление для молодежи — работа с большими данными. И надо же, Dataminr, один из мировых лидеров в этой отрасли, убрал 20% персонала. Ну, а когда гигант Goldman Sachs принялся выставлять на мороз финансистов, потому что человек обходится дороже, чем ИИ, тут уж более мелкие компании просто с цепи сорвались.

Всего в мире сократили 240 тысяч высококлассных специалистов — возможно, цифра не полна, поскольку, согласно отчету Randstad RiseSmart Global Severance, 96% компаний в мире в 2023-м так или иначе избавлялись от «живого» персонала. То есть на самом деле счет может идти на миллионы. И 92% работодателей говорят, что в 2024-м будут сокращать еще быстрее и больше.

Тот же Google собирается уволить 30 тыс. На новогоднем корпоративе сотрудник спросил у гендира Google Сундара Пичаи: ну вот, вы уволили 12 тыс., и счастливы теперь? Что с моральным духом в компании? Пичаи в ответ сказал, что да, решение было трудное, но необходимое. И что с моральным духом просто так хорошо, как никогда не было. То есть, переводим на общепонятный, сотрудники, боясь, что их попрут, вкалывают за семерых, не берут больничные и клеят на лица картонные улыбки. Но этого Пичаи, конечно, прямо не сказал.

Поводы задуматься о будущей профессии для своего ребёнка, например, есть:

• Всесилие нейросетей оказалось слегка дутым, а разговоры о том, что вот-вот появится сверхразум, видимо, только разговоры и пиар. GPT4 показал несколько неприятных свойств, и в целом нейросети нельзя доверять. Нейросеть «бредит» (это термин такой), то есть придумывает то, чего нет (и это недопустимо в финансах и программировании), а также по непонятным причинам время от времени просаживает эффективность своей работы. Значит ли это, что работодатель одумается и вернет уволенных? Нет. Нейросети станут лучше, а радость от сокращений и сэкономленных на персонале денег слишком сладка, чтобы снова тратить деньги на докучливых «живых» специалистов.

• Компании будут представлять из себя странное зрелище. На одном полюсе директор и руководство, потому что не будет же руководство сокращать само себя. На другом уборщицы, охранники и починщики труб и электропроводки. Потому что у ИИ нет рук и сам он ничего такого не сделает. Это довольно глупая конструкция, и такие компании далеко не уедут с ИИ или без ИИ. Компаниям предстоит придумать новую конфигурацию, но какой она будет, мы пока понятия не имеем.

• Плотник собирает дом из бруса. Сантехник проводит в дом тепло. Токарь вырезает из дерева красивые вещи, которые идут нарасхват на интернет-аукционах. Никто нигде не говорит и не пишет, что ИИ угрожает этим специальностям. Человек поднялся над природой, когда начал работать руками. И, хотя роботы (станки с ЧПУ) уже десятилетиями делают рутину на конвейерах, станок с ЧПУ не починит вашу крышу. В России лет 15 говорят, что на острие спроса — «ручные» специальности, все смеются, никто не верит, ну, можно смеяться и дальше.

• Основные события развернутся на прогнившем Западе. Потому что российское законодательство защищает работника ого-го как. К сожалению, тенденции едины для всего мира, это раз. Многие программисты и в России работают на мутных договорах, самозанятыми, это два. И в среднем, в малом бизнесе защита персонала не так, чтобы мощна, это три. Так что надо готовиться и нам.

• ИИ силен в том, чтобы обрабатывать огромные массивы данных. Именно поэтому под удар попали программисты с их полями и ворохами кодов, маркетологи (анализ потребительского поведения по Большим Данным), бухгалтеры (точное заполнение таблиц по известным алгоритмам) и переводчики. Но в современной высокотехнологичной экономике остро нужны люди, которые придумывают, производят идеи, креативят и разрабатывают новые ходы. И вот этого ИИ пока не может и долго не сможет. Даже хваленая сеть Q*, которую ждут в начале года (но не факт, что выйдет) мыслит не так, как человек, и на креатив неспособна. Отсюда вывод, что направлять ребенка надо не туда, где требуется копаться в деталях и данных, а туда, где мысль свободно скользит и парит.

• Что это могут быть за специальности. У нас произошла интересная подмена. Специальности вообще-то технические, обслуживающие были объявлены передовыми и творческими. Так, из обихода ушел «художник» (эта же та девчонка, что на морозе продает свои картины, и никто не берет), но появился «дизайнер». Дизайнер в реальной компании — на самом деле довольно несчастный человек, от которого много требуют, с которым мало считаются, и да, он легко заменяется ИИ. А вот художник не заменяется. Райтер (копирайтер) уходит под напором ИИ, журналист и писатель остается. Программист уходит, инженер остается. Надо оглянуться назад немного, что ли. Вспомнить, что было престижно и популярно лет сорок назад. Многое из этого вновь будет востребовано.

Источник

 Российские IT-специалисты создали нейросеть, которая способна деанонимизировать Telegram-каналы, сейчас софт проходит внутреннее тестирование в компании-разработчике T. Hunter. Об этом рассказали в пресс-службе Национальной технологической инициативы.

"Была разработана базовая антология методов и приемов, которые использует специалист при исследовании Telegram-канала, а затем этим приемам обучили программу", - сообщил газете руководитель департамента информационно-аналитических исследований компании T. Hunter Игорь Бедеров.

Как сообщает издание, в эту антологию методов входит сбор сведений об администраторах из описания каналов, архивных копий, постов, а также получение метаданных опубликованных файлов. Кроме того. нейросеть может найти необходимые сведения в подписях к сообщениям, встроенном чате, стикерпаках, документах и видеороликах. По словам разработчиков, ИИ анализирует утечки данных, сопоставляет их с именем пользователя или его фотографией быстрее и качественнее человека. Как пояснили специалисты, в анализируемом контенте может содержаться информация о пользователе.

"В основе ИИ лежит одна из наиболее распространенных текстовых нейросетей, которая работает на серверах нашей компании. Для ее использования написан телеграм-бот, который упрощает взаимодействие с ПО", - уточнил Бедров. Нейросеть также способна проверять юридических лиц по ИНН. В частности, программа выдает общую информацию о компании: срок существования, численность сотрудников, уставный капитал, адрес регистрации.

Как отмечает издание, полноценный запуск нейросети должен состояться в 2024-2025 годах. Она уже получила название "Товарищ майор". Программа будет предназначена для государственных или частных организаций, которые занимаются расследованием киберпреступлений, связанных с анонимными телеграм-сообществами.

Источник