-
2023-01-05 13:23:04+00:00
Немножко про плавный морфинг между сидами и запросами в Stable Diffusion. Код автор пока не выложил, но надеюсь, что код скоро будет. Ведь будет же?
-
2023-01-06 21:33:57+00:00
🔥VALL-E: новая zero-shot text2speech модель от Microsoft
Эта модель берет на вход текст и 3-х секундный семпл голоса, на выходе получаем аудиофайл, где проговаривается заданный текст. Причем сохраняется персональность, стиль и интонация.
То есть, чтобы сгенерить голос нового человека, не нужно тренировать модель заново — достаточно только показать модели трехсекундный семпл. Ух, заживём!
Архитектура модели смахивает на Dalle-1 и использует трансформеры. Не путать с Dalle-2, которая работает на диффузии.
Примеры генерации снизу.
Кода пока нет. И я немного сомневаюсь, что они его выложат.
❱❱ Сайт проекта
-
2023-01-06 21:05:17+00:00
Канадская мафия.
* Для новеньких в канале – это 3 титана, которые получили премию Тьюринга в 2018 году за нейронные сети и глубокое обучение.
-
2023-01-08 18:17:20+00:00
Для нашей встречи я забронировал стол в DADI wine bar на вторник (10 января) в 18:00. Места там не много, бронь только на 10 человек, так что подтвердите в комментах, что точно придёте и лучше не опаздывайте 😊.
-
2023-01-08 13:51:54+00:00
Друзья, я сейчас в Тбилиси!
Было бы здорово собраться, пообсуждать эйай (и не только), попивая грузинское. Как вы на это смотрите? Жду вас в комментариях.
Я тут до четверга.
UPD. Предлагаю встретиться во вторник.
-
2023-01-08 12:20:37+00:00
Нейродайджест за неделю
🚨 Атака на PyTorch
Злоумышленники подменили бинарник torchtriton в PyPI, из за чего PyTorch-nightly установленный через pip в период с 25 по 30 декабря содержал вредоносный код. [Подробнее на официальном сайте]
🎹 Творческий вайб от AI-сгенерированного репа в канале [Прыгнуть на пост с AI-Drake]
🧠 GPT позволяет диагностировать деменцию на ранней стадии
Для этого нейросети необходим фрагмент текста обычной речи пациента, вместо традиционных медицинских обследований.
📉 Продажи видеокарт для ПК упали до 20 летнего минимума
После бурного роста продаж по время пандемии, в 3 квартале 22 года продажи упали на 42% до уровня 2005 года.
🔎 Помните предыдущий пост про панику в Гугле из за ChatGPT?
По слухам, Microsoft уже планируют интегрировать ChatGPT в Bing. [Прыгнуть на пост]
🌦 DeepMind представили SOTA модель GraphCast для прогноза погоды
По заверениям авторов, GraphCast значительно обходит конкурентов по точности предсказаний, а так же отличается эффективностью: предсказание на 10 суток вперед (35 Гб предсказанных данных) занимает менее минуты.
🔋 ML в ядерной энергетике
На хайпе от первых успешных опытов по достижению "грааля" ядерной энегретики [подробнее в канале Дениса], департамент энергетики США выделил $33M на исследования, связанные с машинным обучением, которые бы способствовали дальнейшему развитию технологии ядерного синтеза с чистым приростом энергии.
🔄 MetaAI представили Data2vec 2.0
Работа опирается на опубликованную в начале 2022 года статью data2vec - универсальный фреймворк, который обучается аналогичным образом на тексте / картинках / речи. Data2vec второй версии сравним по качеству с предшественником, однако оказывается на порядок быстрее. Опубликовали код и веса.
Читать предыдущий дайджест
-
2023-01-07 09:23:43+00:00
⚡️Вот и первый конкурент ChatGPT подъехал, о чем я и говорил в предыдущем посте! Это чат бот Claude от стартапа AntropicAI. Он пока в пре-релизе, но уже есть примеры его работы.
Для теста Claude против ChatGPT их обоих попросили сравнить себя с машиной из книги "Кибериада" Станислава Лемма, которая может создавать объекты, чье название начинается на букву "n".
Мне кажется, Claude тут переплюнул ChatGPT.
Для выбора абсолютного победителя было бы интересно посмотреть, как они друг с другом переписываются в стиле рэп батла, например 😁.
-
2023-01-07 08:41:17+00:00
OpenAI в 2021 году оценивалась в $14 млрд. Сейчас же после безудержного хайпа с ChatGPT Wall Street Journal говорит, что компанию оценивают в $29 млрд.
[Неплохой рост на фоне падающих акций FAANG.]
И по этой оценке OpenAI планируют продать shares венчурным капиталистам как минимум на $300 млн.
Что я думаю по этому поводу? Думаю, что это очередной пузырь, и в течение 6 месяцев появится не одна компания, которая покажет похожих по мощности чат ботов. Да и в опен-соурс что-то к тому времени просочится.
-
2023-01-12 19:56:46+00:00
Как я читаю Arxiv, и как справляюсь с количеством статей
Я вернулся в Цюрих, а значит пора искать новые статьи!
Читать голый arxiv.org в поисках новых статей за неделю подвластно лишь, наверное, полубогам. Каждый день ребята из Поднебесной заливают десятки, а то и сотни статей на архив. И, конечно, 99% из них – шлак или на абсолютно не релевантные темы. Хотелось бы иметь возможность искать статьи похожие по тематике и в идеале сортировать их по качеству, что довольно нетривиально сделать.
Раньше я использовал Arxiv-sanity от Карпатого для поиска похожих статей. Механика там довольно примитивная. Для каждой статьи обучается Exemplar-SVM на tf-idf фичах из абстракта, а затем статьи ранжируются по похожести. Текстовый поиск только по ключевым словам. Соответственно и качество поиска выходит не очень.
Раньше там ещё был счётчик количества упоминаний статьи в Твиттер, что говорило об уровне хайпа вокруг работы, но в новой версии его больше нет.
Сейчас кто-то наконец сделал толковый поиск по статьям на Arxiv, который удостоен технологиями 2023 года — https://arxivxplorer.com. В разделе CS – около 500к статей, и для каждой статьи посчитали текстовые эмбеддинги по абстракту, используя API к текстовым моделькам от OpenAI, о которых я писал тут. Это обошлось автору в $50. Зато теперь в строку поиска можно ввести любые фразы либо даже вопросы, по которым будет считаться эмбеддинг и выдаваться наиболее релевантные статьи из базы. Я очень рад таким инновациям и уже пересел на этот сервис!
-
2023-01-10 23:29:16+00:00
А вот и фото со встречи в Тбилиси. Было много вина и интересных разговоров про карьеру, эмиграцию, конференции, как хайпануть в тиктоке 😂, да и просто про жизнь.
Друзья, спасибо что пришли, было очень кайфово!
-
2023-01-09 15:57:43+00:00
Microsoft планирует внедрить языковые модели, разработанные в OpenAI (GPT-3-like и прочие) в Ofiice365. Хотят, чтобы языковые модели помогали юзерам писать и улучшать текст прямо в Word, Outlook, Power Point и других приложения офиса.
-
2023-01-09 07:57:23+00:00
Pun intended ✋
-
2023-01-13 14:24:16+00:00
Не мог не поделиться такой красотой❤️. Анимация на основе Stable Diffusion.
И вы можете такое создать сами в Гугл Коллабе.
❱❱ Ссылка на Коллаб
-
2023-01-14 17:16:12+00:00
У этой нейронки можно спросить про любого человека, либо вообще про все что угодно. Я считаю, очень забавно посмотреть, что интернет знает про тебя и твоих друзей, поэтому cпросил "Крут ли Юрген Шмудхубер?" (кто не знает Шмидхебера, я про него писал тут).
За интерфейсом крутится сетка от компании kagi.com, которая пытается создать более удобную альтернативу google поиску. Стоит их поиск $10 в месяц, поэтому я пока на утенке duckduckgo.com.
Ну, а доступ к своей Large Languаge Model пока предоставляют бесплатно. Сетка рабтает по типу WebGPT, то есть она умеет отвечать на вопросы, и в тоже время умеет искать актуальную инфу в интернете и использовать ее в своих ответах.
Вперед играться! https://labs.kagi.com/ai/contextai
-
2023-01-14 15:59:10+00:00
Shutterstock расширяет давние отношения с Meta
Прошла новость, что Shutterstock партнерится с Meta по теме датасетов с картинками: "By tapping into Shutterstock's collection of millions of images, videos and music, Meta plans to use these datasets to develop, train and evaluate its machine learning capabilities."
-
2023-01-15 13:44:56+00:00
Нейродайджест за неделю (#3)
🐞 Код, написанный при помощи AI-ассистентов, содержит больше ошибок и уязвимостей
Хорошие новости для разработчиков! Исследователи из Стенфорда сравнили код, который программисты писали самостоятельно, и код, написанный при помощи Codex. В результате исследования оказалось, что баги и уязвимости вероятнее окажутся в коде, написанном при помощи AI-ассистента. При этом разработчики, использовавшие AI-ассистент, считали свой код более безопасным.
👩🔬 ChatGPT - соавтор научных работ
Еще в декабре вышла первая научная работа, прошедшая рецензию, в которой среди авторов указан ChatGPT. Паралелльно с этим, организаторы ICML запрещают использование AI-сгенерированного текста (за исключением, конечно, примеров работы модели) в статьях. Видимо, все потому что ...
🧐 Абстракты статей, написанные ChatGPT, с легкостью вводят ученых в заблуждение
Абстракты, написанные AI, для фейковых статей выглядят очень убедительно, а антиплагиат считает текст на 100% оригинальным.
🤑 Microsoft ведет переговоры об инвестировании уже 10 миллиардов долларов в OpenAI
При этом доля Microsoft составит 49%, а так же 75% дохода до покрытия инвестиций. Также планируется внедрить модели от OpenAI в продукты Microsoft Office. [Прыгнуть на пост]
🔎 Поисковик по Arxiv'y нового поколения
Поисковая система использует эмбеддинги абстрактов, полученные из текстовых моделей OpenAI, и позволяет искать по любым фразам. [Прыгнуть на пост]
💎 DeepMind представил DreamerV3
DreamerV3 — это универсальная модель, которая способна обучаться под различные задачи "из коробки" (и даже способна обходить узкоспециализированные алгоритмы). Кроме того, DreamerV3 это первый алгоритм, который может с нуля научиться собирать алмазы в майнкрафте.
❱❱ Читать нейродайджест #2
-
2023-01-15 09:56:00+00:00
-
2023-01-17 14:56:46+00:00
Твое 3D лицо, когда прогнал фото через 3D Avatar Diffusion 🌚
Правда, повторить дома не сможешь, потому что Microsoft никогда не публикует код от таких штук 👌.
-
2023-01-18 06:38:00+00:00
Это уже не смешно. Реально будет бублик что ли?
-
2023-01-19 17:17:10+00:00
Робот Boston Dynamics помогает кожаному на "стройке"
Милота ❤️❤️❤️❤️
-
2023-01-20 11:28:45+00:00
Google увольняет 12000 сотрудников. Сундар Пичай сегодня опубликовал открытое письмо всем гуглерам об этом нелёгком решении.
Но обещают инновации в сфере AI:
"I am confident about the huge opportunity in front of us thanks to the strength of our mission, the value of our products and services, and our early investments in AI."
Увольнения уже прокатились по всем крупным tech компаниям, не обошли и Гугл. Два дня назад, например, Microsoft анонсировал уже вторую волну увольнений на 10000 сотрудников.
-
2023-01-21 19:12:33+00:00
Ещё хочу добавить. В такие кризисные времена, если вы наемный работник в компании, то очень важно, чтобы вы работали на проектах, которые являются высокоприоритетными и стратегическими для компании. Ведь в первую очередь в расход пойдут те, кто работают над низкоприоритетными задачами.
-
2023-01-22 18:45:00+00:00
The Artificial Intelligence (AI) Residency Program
У Меты есть годовая программа AI Residency, на которой к вам приставят опытного ментора из числа ресерчеров, вы будете импелементить идеи и работать над научными публикациями и open-source проектами. То есть вас будут учить работе исследователя. Бэкраунгд в AI и Deep Learning не обязателен, но нужно иметь техническое образование.
Колобочки, это, кажется, лучшая возможность для тех, кто закончил бакалавриат или магу и хочет серьезно вкатиться в AI. По сути это своеобразные подготовительные курсы перед поступлением на профильное PhD. Если бы я знал в свое время о существовании таких программ, я бы точно не упустил ни одной возможности.
Подозреваю, что конкурс там будет не маленький, но я все равно рекомендую всем заинтересованным отправлять свои заявки.
Подать на программу в США можно тут до вечера 24 января.
-
2023-01-24 14:16:26+00:00
Архитектура StyleGAN-T. Много интересных трюков, как и в каждой статье по StyleGAN.
-
2023-01-26 14:05:09+00:00
Ещё, кстати, данных для обучения всяких Copilot-ов прибавилось.
-
2023-01-29 16:22:49+00:00
Нейродайджест за неделю (#5)
🤯 Бекенд исключительно на GPT: проект победителей scaleAI хакатона
Участники реализовали приложение со списком дел, где функциональную часть бекенда заменили промптами для GPT. Чтобы не использовать БД, предыдущее состояне списка добавляется к текушему промпту. В результатае возможно задавать эндпроинты как deleteAllTodosDealingWithFood() или sorttodosbyestimatedtime(), которые не были определены в коде.
🧑🏫 Лекция от Andrej Karpathy по имплементации GPT с нуля
🦖 Разбавим новости про GPT и диффузионне модели: StyleGAN-T
Работает хуже, чем диффузия, но быстро (~0.1c). ГАНы все еще в деле! [Прыгнуть на пост]
👩💻 cursor.so: IDE в которой интеграция с AI-ассистентом выходит на новый уровень
Глубоко интегрированная LLM позволяет задавать открытые текстовые запросы, задавать вопросы про уже написанный код, описывать требуемые изменения и многое другое.
📈 Модели от OpenAI теперь доступны в рамках Azure OpenAI Service. Microsoft продолжает интегрировать технологии OpenAI.
🎷 MusicLM: Модель от гугла для генерации музыки по текстовому запросу.
MusicLM может генерировать семплы длиной в несколько минут с гармоничным звучанием. Модель так же может стилизовать по текстовому запросу обычные напевы в диктофон. Кода нет, но есть примеры.
🎧 playlistAI: Приложение, которое генерит плейлисты для Spotify и Apple Music по текстовому запросу.
🧠 Новое поколение поисковиков набирает обороты.
Пока Гуглу пытается угнаться за ChatGPT, несколько новых поисковиков-стартапов уже интегрировали LLM в свои продукты. Говорить, что они перевернули игру еще рано, но уже можно затестить. [Прыгнуть на пост]
❱❱ Читать предыдущий нейродайджест
-
2023-01-30 18:03:46+00:00
Хорошие новости для представителей дизайнерских профессий. Теперь Stable Diffusion зашёл в Photoshop бесплатно (не то, что предыдущий плагин за $50/мес).
Более того новый плагин Stable.art ещё и в оупенсорсе и лежит на гитхабе. Плагин использует Automatic1111 как бекенд, который крутит сеть локально либо в Google Colab. Нужна только машина с GPU либо подписка на Коллаб.
-
2023-01-31 18:23:00+00:00
Google Research, 2022 & beyond: Language, vision and generative models
Джефф Дин — это как раз тот чел из Гугла, который компилирует и запускает свой код перед коммитом, но только чтобы проверить на баги компилятор и CPU.
Так вот Джеф написал классный блогпост, подытоживающий, что же они там наделали за 2022 год в сфере языковых моделей, CV, мультимодальный моделей и генеративок. Хорошо для чтения на досуге.