ИИ дома
Наконец-то развлечение на новогодние праздники!
Давно хотел заиметь дома настоящий искусственный интеллект и поиграться, но инструкции попадались сложные. Даже если бы по ним получилось установить, то повторить по памяти я бы не смог, а это показатель сложности.
В общем <https://lmstudio.ai> – отличная программа на Mac, Win, Linux. Качает, устанавливает и запускает самые популярные бесплатные опенсорсные LLM прямо с huggingface. Не в один клик, к сожалению, но почти. И интерфейс больше программерский, но если вы что-то типа продвинутого юзера как я – то всё получится без инструкции, в общем рекомендую.
За 20 минут (15 из них – скачивание) запустил новейшую Mistral, которая работает примерно как GPT-3.5, но локально у меня, бесплатно и быстрее, чем на сайте.
❗️ на Mac с Apple Silicon нужно минимум 16GB оперативки. На Windows, впрочем, тоже.