Ollama ці LM Studio: лакальная мадэль не заўсёды азначае прыватнасць

І Ollama, і LM Studio могуць запускаць загружаную мадэль на вашым камп’ютары без інтэрнэту. Але месца захоўвання мадэлі яшчэ не паказвае, куды пойдзе канкрэтны запыт: дакументацыя API Ollama адрознівае лакальны і воблачны API і дапускае зварот да воблачнай мадэлі праз лакальны сервер. Таму нават адрас localhost у праграме-кліенце сам па сабе не даказвае, што адказ ствараецца на вашым камп’ютары.

Афлайн-даведка LM Studio пацвярджае, што размова з загружанай мадэллю, апрацоўка дададзенага дакумента і праца лакальнага сервера магчымыя без інтэрнэту. Для прыватнай працы ў любой з праграм важны ўвесь шлях даных: абраная мадэль, кліент, сеткавая даступнасць сервера і інструменты, якім мадэль можа перадаць задачу. Гэта і ёсць аснова выбару, калі ў запытах будуць асабістыя ці службовыя звесткі.

Чым адрозніваюцца Ollama і LM Studio

Ollama зручная, калі мадэль павінна абслугоўваць скрыпты або іншыя праграмы праз лакальны HTTP API. Запыт тады праходзіць праз кліент, сервер Ollama і абраную мадэль. У гэтым ланцугу трэба ведаць не толькі адрас сервера: назва мадэлі і рэжым яе выканання вызначаюць, дзе апрацоўваецца тэкст.

LM Studio дае графічны інтэрфейс для загрузкі мадэлі, размовы і працы з дакументамі. Яно таксама можа працаваць як сервер для іншых праграм, таму выбар LM Studio не абмяжоўвае карыстальніка адным акном чата. Калі запыт дасылае знешні кліент, яго ўласныя налады і падключэнні таксама становяцца часткай праверкі прыватнасці. Зручны інтэрфейс дапамагае бачыць загружаную мадэль, але не апісвае ўсе магчымыя маршруты даных.

Калі з’яўляецца воблачны маршрут

Ollama падтрымлівае воблачныя мадэлі і вэб-пошук. У афіцыйных адказах Ollama апісаны лакальны рэжым: воблачныя функцыі можна адключыць праз параметр disable_ollama_cloud або зменную OLLAMA_NO_CLOUD=1, а пасля змены налад перазапусціць сервер. Гэта адключае і воблачныя мадэлі, і вэб-пошук Ollama. Тая ж даведка паказвае, што праграма для macOS і Windows аўтаматычна спампоўвае абнаўленні: сеткавая актыўнасць праграмы не заўсёды азначае адпраўку зместу лакальнай размовы.

У LM Studio таксама трэба адрозніваць лакальную працу ад выбраных воблачных функцый. Палітыка прыватнасці LM Studio кажа, што пры выкарыстанні набытых воблачных мадэляў або вэб-пошуку запыты, у тым ліку далучаныя файлы, апрацоўваюцца ў воблаку. Кампанія заяўляе, што змест не захоўваецца пасля выканання такога запыту, але гэта іншая ўмова, чым захаванне даных толькі на камп’ютары. Таму перад працай з канфідэнцыйным файлам трэба бачыць, якая мадэль абрана і ці ўключана функцыя з воблачнай апрацоўкай.

Пошук і спампоўванне мадэляў патрабуюць сеткі; LM Studio таксама можа спампоўваць асобныя кампаненты для запуску мадэляў і правяраць абнаўленні праграмы. Падрыхтоўка да афлайн-працы таму адбываецца загадзя. Калі патрэбная мадэль або яе кампанент яшчэ не загружаны, адключэнне сеткі выявіць гэта да адкрыцця сапраўднага дакумента. Пры гэтым запыт на абнаўленне праграмы варта адрозніваць ад запыту да мадэлі: іх мэта і змесціва розныя.

Што адбываецца з дакументамі і інструментамі MCP

Пры размове з дакументам непасрэдна ў LM Studio з загружанай мадэллю праграма апісвае апрацоўку файла як лакальную. Гэтая ўмова тычыцца менавіта ўбудаванай працы з дакументам у лакальным рэжыме. Калі файл спачатку загружаецца ў іншую праграму, якая толькі выкарыстоўвае Ollama або LM Studio для генерацыі адказу, паводзіны гэтай праграмы трэба разглядаць асобна: лакальны рухавік мадэлі не кіруе аўтаматычна захоўваннем і перадачай файлаў у кліенце.

MCP дадае мадэлі інструменты, якія могуць выконваць дзеянні па-за самой размовай. Лакальны MCP-сервер можа мець доступ да файлаў і сеткі, а аддалены патрабуе сеткавага злучэння; у абодвух выпадках істотныя яго магчымасці і перададзеныя яму даныя. Нават цалкам лакальная генерацыя адказу не робіць такія выклікі лакальнымі. Для канфідэнцыйнай задачы мае сэнс пакінуць толькі патрэбныя MCP-падключэнні і ведаць, да якіх файлаў або службаў яны дапушчаныя.

Каму даступны лакальны сервер

Лакальны API можа абслугоўваць толькі праграмы на тым жа камп’ютары або прымаць запыты ад іншых прылад. У Ollama адрас прывязкі змяняецца праз OLLAMA_HOST. У LM Studio налады сервера дазваляюць адкрыць доступ праз лакальную сетку, уключыць аўтэнтыфікацыю і асобна вызначыць, ці могуць API-кліенты карыстацца MCP-серверамі. Сярод апошніх ёсць аддаленыя падключэнні, якія кліент можа задаць у сваім запыце.

Калі сервер даступны ў лакальнай сетцы, да яго могуць звяртацца іншыя прылады гэтай сеткі. Гэта не азначае аўтаматычнага доступу з усяго інтэрнэту, але змяняе кола магчымых кліентаў. Калі супольны доступ не патрэбны, прывязка да localhost звужае яго да камп’ютара з серверам. Калі доступ з іншых прылад патрэбны, аўтэнтыфікацыя і дазволы для API-кліентаў становяцца часткай той жа канфігурацыі, што і выбар мадэлі.

Як праверыць цалкам лакальны рэжым

Праверку лепш пачаць з нейтральнага запыту, пакуль канфідэнцыйныя файлы яшчэ не адкрытыя. Яна павінна ахопліваць і працу без сеткі, і паводзіны праграм пасля вяртання падключэння:

1. Загрузіце патрэбную мадэль і кампаненты для яе запуску. Пераканайцеся, што абраны менавіта загружаны лакальны варыянт, а не воблачная мадэль з падобнай назвай.
2. У Ollama выключыце воблачныя функцыі і перазапусціце сервер. У кліенце праверце адрас сервера і мадэль, указаную для запыту; калі карыстаецеся LM Studio, таксама праверце, ці не выбраны воблачная мадэль або вэб-пошук.
3. Адключыце сетку і паўтарыце нейтральны запыт разам з тымі дзеяннямі, якія патрэбныя для задачы, напрыклад размовай з бяспечным пробным дакументам. Паспяховы адказ паказвае, што гэтая канфігурацыя можа працаваць афлайн; пасля вяртання сеткі праверце яе падключэнні яшчэ раз.
4. Паглядзіце, на якім адрасе працуе API-сервер. Калі іншыя прылады не павінны да яго звяртацца, пакіньце прывязку да localhost і праверце, ці няма асобна наладжанага проксі або тунэля.
5. Праглядзіце MCP-серверы і іншыя праграмы-кліенты. Адключыце непатрэбныя злучэнні, асабліва аддаленыя інструменты і доступ да файлаў, якія не патрабуюцца для задачы.

Такі пратакол правярае канкрэтную канфігурацыю, а не дае пастаяннай уласцівасці назве праграмы. Пасля змены мадэлі, кліента, сеткавых налад або MCP-падключэнняў маршрут запыту можа змяніцца. Таму сапраўдны дакумент варта адкрываць у той канфігурацыі, у якой прайшла праверка.

Што выбраць

Для размовы з загружанай мадэллю і дакументамі ў графічным інтэрфейсе LM Studio дае кароткі шлях да афлайн-працы. Для скрыптоў і праграм, якім патрэбны лакальны HTTP API, Ollama дае зручны серверны шлях; LM Studio таксама можа абслугоўваць API-запыты. Калі галоўны крытэрый — захаванне запытаў і файлаў на камп’ютары, вырашальнай будзе канфігурацыя: лакальная мадэль, адсутнасць воблачнай функцыі, патрэбная прывязка сервера і кантраляваныя інструменты.