Локальная LLM для поиска в сети и в документах. LM Studio

Описание

LM Studio позволяет не только запустить модель локально для отработки промпта и локальной разработки программ, использующих LLM. С развитой системой плагинов в студии можно расширить функциональность модели с помощью плагинов, дающих возможность ей делать запросы к поисковым движкам, к сайтам и подключить простую RAG систему

Полноценной заменой того же Perplexity такая связка, конечно же, не будет. Но отработать какие-то интеграции или tools при выборе модели, подходящей к вашим задачам, данный инструмент определенно может помочь.

LM Studio документация по плагинам:
https://lmstudio.ai/docs/typescript/plugins

LM Studio hub. Страница lmstudio:
https://lmstudio.ai/lmstudio

Плагины в lm studio hub:
- duck-duck-go: https://lmstudio.ai/vadimfedenko/duck-duck-go-reworked
- visit-website: https://lmstudio.ai/vadimfedenko/visit-website-reworked
- big-rag: https://lmstudio.ai/mindstudio/big-rag

Поисковик DuckDuckGo:
https://duckduckgo.com/

Отчёт об уязвимостях плагинов:
https://docs.google.com/document/d/1AWIqsEdKL1tvk93hxyix5fqp4A4eAgpBuBtNa6LdLqo/edit?tab=t.0

Предыдущее видео о LM Studio:
https://rutube.ru/video/b3c0e30a8b5b08cd9d7dfd6632e7e720/


Поддержать проект
➡ Sponsr https://sponsr.ru/letscode/
➡ Yoo Money https://yoomoney.ru/to/41001451675086
➡ Donate https://donate.stream/mrdru

➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖

➡ Второй канал: https://www.youtube.com/geekChatDru
➡ Канал в Telegram: https://t.me/letsCode_dru
➡ Чат в Telegram: https://t.me/joinchat/FeiP9xEhqHajfqhLr4z-Nw