Оберіть модель, яка читає ваші логи та конфігурації
Cascadia Merge надсилає ваш запит до моделі, і модель вирішує, який інструмент викликати наступним. Ви обираєте модель, і цей вибір визначає, куди надходить текст вашого запиту. Інструменти залишаються тими самими — від read_file і grep до Shell — незалежно від того, яку модель ви підключите.
Куди надходить текст запиту
Хмарний AI-провайдер
Хмарний AI-провайдер підключається через стандартну кінцеву точку API, яку ви вводите в додаток разом із власним API-ключем. З хмарною моделлю текст запиту надходить до цього провайдера, а також текст будь-якого файлу, який читає агент, наприклад, лог сервера або serverconfig.json. Зберігайте пароль сервера поза чатом, якщо не хочете, щоб провайдер його бачив. Секрети в результаті інструментів видаляються перед надсиланням моделі, а запити надходять лише до обраної вами кінцевої точки. Ваш API-ключ залишається на вашому ПК. Провайдер може стягувати плату за своє використання згідно зі своїми умовами. Обирайте хмарну модель, якщо у вас вже є обліковий запис у провайдера.
Модель на вашому ПК
Модель, що працює локально на вашому ПК, є вибором для найконфіденційніших матеріалів. З локальною моделлю ніщо не залишає машину: текст запиту та текст файлів, які читає агент, залишаються на вашому ПК. Агент все ще виконує ті самі інструменти, і кожна дія відображається як картка з реальним результатом. Пошук у мережі є необов'язковим, і якщо ви його використовуєте, пошуковий запит надходить у мережу; інші необов'язкові мережеві функції описані на сторінці конфіденційності. Локальна модель підходить для роботи з файлом конфігурації, який містить пароль вашого сервера, або будь-якою іншою задачею, де ви не хочете надсилати текст файлів провайдеру.
Вбудована модель
Вбудована модель готова до використання без вашої власної кінцевої точки, що робить її найкоротшим шляхом до першої сесії. Вона підходить для вивчення того, як поводяться картки, відмінності та три режими затвердження, перш ніж ви підключите щось інше: попросіть її перелічити папку даних за допомогою list_dir, а потім прочитати serverconfig.json за допомогою read_file. Ви можете підключити хмарну або локальну модель у будь-який час. Картки виглядають однаково незалежно від того, яку модель ви використовуєте, тому ви можете виконати одну невелику задачу двома моделями та порівняти відповіді поруч.
Перевірте з'єднання за допомогою кнопки Test
Кнопка Test перевіряє кінцеву точку, показує час відгуку та вікно контексту. Вікно контексту — це кількість тексту, яку модель може прочитати за один раз, тому воно підкаже, чи вміститься довгий лог сервера. Запускайте тест після введення кінцевої точки та знову після її зміни. Час відгуку — це час, який модель витрачає на відповідь на короткий тестовий запит, що допомагає при порівнянні двох провайдерів. Результат описує лише з'єднання. Він нічого не каже про те, наскільки добре модель читає ваші файли, тому ви все одно самі читаєте картки, а невелика тестова задача, наприклад, перелік папки Mods, розкаже більше.
Вибір моделі для задачі сервера
Більша модель — розумний вибір для довгого логу або для зміни, яка торкається кількох файлів, а менша модель достатня для невеликого редагування, наприклад, зміни MaxClients у serverconfig.json. Інструмент run_on_model надсилає один важкий крок до більшої моделі, тоді як решта сесії залишається з обраною вами моделлю. Інструмент task запускає субагентів, які працюють з окремими файлами паралельно, наприклад, файл конфігурації та папку Mods, і кожен субагент звітує назад у чаті. Розбивайте великі задачі. Коротші вхідні дані легші для будь-якої моделі, а якість все ще відрізняється між моделями.
Якість варіюється між моделями та провайдерами, і модель може неправильно прочитати лог або запропонувати неправильне значення, тому читайте diff перед тим, як прийняти зміну. Ask first робить паузу перед діями, які щось змінюють, і показує diff для затвердження, Plan only записує кроки як план і нічого не запускає, а Auto-run діє миттєво. Cascadia Merge виконує ваші інструменти. Він не робить модель більш правильною, і він не замінює тест на копії ваших збережень.
