2024-11-16 AI mindset V office hours 1

video

• Общая информация:
  • Тема: Ответы на вопросы участников по использованию AI и Obsidian, демонстрация инструментов, обсуждение личного опыта и проблем.
  • Дата: 16 ноября 2024
  • Формат: Онлайн-встреча
  • Участники/Спикеры: @Alex P, @Gleb K, @Aleksei Ozol, участники лаборатории

Вступление: Office Hours начались с обсуждения вопросов, возникших у участников после первого воркшопа. Основные темы касались практического применения AI-инструментов, работы с Obsidian, промт-инжиниринга, а также более общих вопросов - этичности использования AI, безопасности данных и способов справиться с информационной перегрузкой. Встреча проходила в неформальной обстановке, участники активно делились своим опытом и задавали вопросы.

Вопросы и ответы:

• Вопрос (@Aleksei Ozol): Работает ли Cursor с любыми текстами, а не только с кодом? Алексей интересовался возможностями Cursor для работы с текстами, так как установил его и хотел узнать, насколько широк спектр его применения.

  • Ответ (@Gleb K): Да, Cursor работает с любыми текстами, но он уже устарел. «Мы живем во время, понимаешь, жить в экспоненте - такое дело», - отметил Глеб, имея в виду быстрый темп развития AI-технологий. Он порекомендовал использовать более новый инструмент - windsurf (https://codeium.com/windsurf), который эффективнее работает с большими объемами текста в Obsidian, благодаря агентному поведению и векторному поиску.

• Вопрос (Ольга): Можно ли использовать Cursor или Vinter с файлами, хранящимися в облаке? Ольга подняла важный вопрос о совместимости инструментов с облачными хранилищами.

  • Ответ (@Alex P, @Gleb K): Пока нет, прямой интеграции нет. «Пока нет, но как бы ты можешь локально хранить и в облаке же», - предложил Александр вариант с локальной синхронизацией и доступом через облако. Глеб подтвердил, что прямой работы с облаком пока нет. Также было упомянуто о плагине Smart Connections (https://github.com/brianpetro/obsidian-smart-connections) для Obsidian, который позволяет обучить кастомную модель GPT на своей базе знаний.

• Вопрос (Ольга): Насколько безопасно хранить личные данные в Obsidian и использовать их с AI-моделями? Вопрос Ольги коснулся темы безопасности и конфиденциальности данных.

  • Ответ (@Gleb K, @Alex P): Глеб объяснил, что «в облако уходят только embeddings», то есть векторные представления файлов, а сами тексты остаются локально. «Конечно, это не гарантирует, что сто процентов это безопасно, как и не гарантирует использование ни одного облачного сервиса», - добавил он. Александр предложил альтернативу - локальные модели, но оговорился, что для них нужен мощный компьютер.

• Вопрос (Роман): Как использовать Cursor/Vinter для работы с заметками в формате Markdown? Роман, как и многие участники, использовал Markdown для заметок и хотел узнать, как с ними работать в Cursor/Vinter.

  • Ответ (@Gleb K, @Alex P): Глеб пояснил, что нужно просто собрать заметки в папку и открыть ее в Cursor/Vinter. «В смысле, человеческим языком можно задавать вопросы», - добавил он. Александр посоветовал использовать итеративный подход: сначала задать вопрос простым языком, затем уточнить его на английском, затем в Markdown.

• Вопрос (Катя): Как проверить AI-модель на галлюцинации? Катя столкнулась с проблемой галлюцинаций и искала способы верификации информации, выдаваемой моделью.

  • Ответ (@Gleb K, @Alex P): «Фундаментально есть вопросы, вообще насколько это возможно», - начал Глеб, подчеркнув сложность проблемы. Он поделился своим опытом использования поиска в ChatGPT и моделей с "grounding". Александр показал пример работы с Perplexity (https://www.perplexity.ai/) для анализа видео. «Вероятность того, что модель, которая ходит в интернет, подтягивает еще контекст других подкастов и знает этого человека, она сделает гораздо более качественный результат сходу», - объяснил он.

• Вопрос (Катя): Каковы ограничения по объему входных данных в ChatGPT? Катю интересовали лимиты ChatGPT, так как она столкнулась с ограничением при попытке суммаризировать большой документ.

  • Ответ (@Gleb K): Глеб уточнил, что «окно контекстное уже ChatGPT-4 - это 128 тысяч токенов», что примерно равно 100 тысячам слов или трети средней научно-популярной книги. Он порекомендовал для работы с большими документами использовать Gemini с контекстным окном в 2 миллиона токенов.

• Вопрос (Женя Софронов): Как использовать Groq? Женя попробовал Groq, но не был впечатлен результатами и спросил о лучших способах его применения. «Он как-то не очень... Тупо отвечает, прямо скажем», - поделился он своими впечатлениями.

  • Ответ (@Gleb K, @Alex P): Глеб рассказал, что использует Groq в основном для транскрибации через Whisper и показал пример интеграции Groq в Obsidian с помощью плагина System Sculpt. Александр добавил, что Groq хорош для форматирования текста и других простых задач, где важна скорость, а не качество генерации.

• Вопрос (Ольга): Можно ли интегрировать AI-модели с умными колонками? Ольга заинтересовалась возможностью голосового взаимодействия с AI через умные колонки.

  • Ответ (@Gleb K, @Alex P): Глеб подтвердил, что есть решения для интеграции с Alexa и Siri, а также упомянул о неудачном опыте с приложением OpenAI для голосового управления. Александр пошутил, что сначала не понял вопрос, подумав про "умные колонки" в Excel.

• Вопрос (Женя Софронов): В чем преимущество Markdown? Женя хотел узнать больше о преимуществах Markdown и его связи с AI.

  • Ответ (@Gleb K, @Alex P, Ольга): Глеб объяснил, что Markdown - это "язык разметки по умолчанию для AI-тулов" и показал, как он работает в Obsidian. Ольга добавила, что Markdown - это сложившийся стандарт для документации разработчиков.

• Вопрос (Женя Софронов): Как быстро изучать новые AI-инструменты? Женя поделился своей проблемой: "Сейчас AI-бум, и поэтому каждый говорит, что вот этот инструмент - это просто бомба... А что в самом деле бомба, я не могу понять".

  • Ответ (@Gleb K, @Alex P): Глеб и Александр посоветовали ориентироваться на ключевые модели и не гнаться за всеми новыми инструментами. «Ютуб для меня - основной источник информации», - признался Глеб.

• Вопрос (Женя Софронов): В чем смысл Custom Instructions в ChatGPT? Женя хотел получить конкретные примеры использования Custom Instructions.

  • Ответ (@Gleb K, @Alex P): Глеб показал свои Custom Instructions и рассказал, как использует их для генерации саммари в Markdown. Александр продемонстрировал пример работы с чатом по книге и возможности вызова различных контекстов.

• Вопрос (Ольга): Есть ли примеры простых AI-продуктов, которые стали популярными? Ольга интересовалась успешными кейсами применения AI.

  • Ответ (@Gleb K, @Alex P): В качестве примера были названы Midjourney, а также инструменты для автоматизации календаря. Александр отметил, что многие полезные AI-инструменты не доходят до рынка, так как компании предпочитают разрабатывать внутренние решения.