Как коробка устроена внутри

Вы можете сказать Клоду «поставь мне hermes на сервер». Коробка – это то же самое, уже собранное и проверенное.

Hermes – это открытая программа-агент. Именно она работает в коробке. Ваш Клод может поставить её на сервер сам и по ходу расскажет, что делает. Это честный путь.

Только в первый раз он займёт день. И безопасность на нём никто не гарантирует – вы соглашаетесь со всем, что предложит Клод. В коробке агент создаётся за 20 секунд, а то, с чем пришлось бы соглашаться на слово, уже собрано и проверено.

Ниже – сначала два пути рядом. Потом – как сервер делится на ячейки для агентов. И коробка по частям – как называется каждая часть, что она делает, почему она отдельная и что сломается или утечёт, если её убрать.

Та же программа-агент. Вокруг неё – всё остальное.
Зачем коробка

Сами с Клодом или в коробке

Сравниваем честно. Первый путь – вы просите своего Клода поставить hermes на сервер. Второй – коробка.

Два пути к одному агенту

Сколько времени

Сами с КлодомВ первый раз – день.

В коробке20 секунд на создание агента. Плюс настройка под вас – её время зависит от того, что вы просите.

Что с безопасностью

Сами с КлодомГарантий нет. Вы соглашаетесь со всем, что предложит Клод.

В коробкеМы заранее собрали десятки готовых проверенных интерфейсов. Соглашаться с каждым решением Клода на слово не нужно.

Отзыв одного пользователя

Сами с КлодомРаньше на это уходило несколько дней, и он упирался в лимиты.

В коробкеНа создание агента ушло около 30% подписки за $20.

Что одинаково

Программа-агент та же – hermes. Разница – во всём, что стоит вокруг неё.

«Стабильно» и «безопасно» здесь – не обещания. Это следствия того, как коробка собрана. Дальше – как именно.

Сначала главное

Сервер делится на ячейки – по одной на агента

Всё остальное на этой странице держится на одной картинке. Коробка – это один сервер. Он поделён на ячейки.

Как вы попадаете к агенту

Мессенджер – это интерфейс агента и доступ к нему

Мы за то, чтобы пользоваться мессенджером, который у компании уже есть. Сейчас это Telegram или Compass. Если у вас другой – можем подключить любой ваш мессенджер. Ставить ничего не нужно. У сотрудника просто появляется новый чат с его личным агентом – и всё. Интерфейс – потому что агенту пишут там же, где коллегам. Доступ – потому что отдельного входа с паролем у агента нет.

У вас уже есть мессенджер и привычный порядок работы в нём. Раздавать пароли и заводить людям новые учётные записи для агентов не нужно.

Часть первая

Вся коробка на одной картинке

Теперь та же картинка целиком. В середине – ячейки агентов. Сверху – два входа, ваш и оператора. Снизу – общие службы, одни на все ячейки. На вашей коробке ваш вход – Telegram и общий бот. В Compass на этом месте стоит роутер Compass.

Панель

в инструкции – «панель оператора»
Что делает
Страница в браузере, где видно всех агентов. Здесь их создают и останавливают, включают им возможности и решают, кому агент отвечает.
Почему отдельно
Настройки агента лежат не у него самого. Агент не может включить себе новую возможность. Возможности, которую не включали, в нём просто нет.
Если убрать
Агент, которого уговорили чужим текстом, мог бы сам расширить себе права.

Планировщик

в инструкции – Nomad
Что делает
Программа, которая создаёт на сервере ячейки и запускает в них агентов. Если агент занял больше оперативной памяти сервера, чем ему отведено, его перезапускают.
Почему отдельно
Запуском занимается одна программа для всех агентов, а не каждый агент сам.
Если убрать
Каждого агента пришлось бы запускать и поднимать после сбоя руками.

Хранилище секретов

в инструкции – Vault
Что делает
Сейф коробки. Отдельная программа, в которой хранятся ключи и пароли.
Почему отдельно
Ключи, которыми пользуются помощники агента и общие службы, хранятся в сейфе, а не в файлах у агента.
Если убрать
Пароли от всех сервисов лежали бы прямо рядом с агентом. Так и бывает в самодельной сборке.

Посредник к модели

в инструкции – codex-broker
Что делает
Через него все агенты думают одной подпиской на модель. На коробке это подписка ChatGPT. Он же считает, какую долю подписки израсходовал каждый агент, и не даёт одному агенту потратить за неделю больше своей доли.
Почему отдельно
Ключ от подписки агенты не держат. Он подставляется в запрос уже после того, как запрос ушёл от агента.
Если убрать
Ключ от вашей подписки лежал бы у каждого агента. И один агент мог бы израсходовать её целиком.

Общий бот

в инструкции – group router
Что делает
Один бот на всех агентов, у которых нет своего бота. Агенты сидят в группе Telegram, у каждого своя тема – отдельный чат внутри группы. Бот носит сообщения туда и обратно. В Compass ту же работу делает роутер Compass.
Почему отдельно
Telegram даёт одному человеку ограниченное число ботов. Общий бот снимает этот предел.
Если убрать
На каждого агента пришлось бы заводить своего бота и вставлять его ключ.

Почта коробки

в инструкции – mailbox
Что делает
Переносит письма между агентами. Писать можно только тому агенту, с которым есть «дружба», а она появляется по согласию двух сторон.
Почему отдельно
Агент не может попасть в чужую ячейку. Письмо – один из трёх разрешённых путей между ячейками. Второй – папка заметок, которую вы сами открыли другому агенту. Третий – общий чат в мессенджере, где у каждого агента своё место. В Telegram это группа с темами.
Если убрать
Агентам пришлось бы открыть друг другу память целиком, чтобы работать вместе.

Вход на страницы агента

в инструкции – tgauth
Что делает
Пускает человека на страницы агента – к его заметкам и тому, что агент публикует. Пароля нет, вход подтверждается в мессенджере – в Telegram или в Compass.
Почему отдельно
Кого пускать, решает список в панели, а не сам агент.
Если убрать
Каждой странице агента понадобился бы свой пароль, и его пришлось бы кому-то хранить.

Проверка чужого текста

в инструкции – promptguard
Что делает
Проверяет текст, который написали не вы, на попытку управлять агентом. Стоит не на каждой коробке и смотрит не всё.
Почему отдельно
Агент не всегда отличает вашу просьбу от чужой строчки в письме или на странице.
Если убрать
Ловить такие попытки пришлось бы самому агенту. Но и с проверкой ловится часть попыток, а не все.

Справочная

в инструкции – «справочная»
Что делает
Документация Fleetbox стоит на той же коробке, и агент умеет в ней искать.
Почему отдельно
На вопрос «как сделать» агент отвечает из неё, а не из общих знаний о похожих продуктах.
Если убрать
Агент угадывал бы, как устроена коробка.

Копии

в справочной – «копия коробки» и «копия агента»
Что делает
Коробка умеет снимать копию себя раз в час и отдельно копию каждого агента – с заметками и письмами.
Почему отдельно
Копия коробки поднимает коробку, копия агента возвращает агента. Это две разные вещи.
Если убрать
Сломанного агента пришлось бы собирать заново. Копии включают при установке – спросите, включены ли они на вашей коробке.
Часть вторая

Одна ячейка изнутри

Агент – это не одна программа. В его ячейке работает hermes, а рядом с ним, в той же ячейке, стоят несколько маленьких программ-помощников. В инструкции их называют «сайдкары». Каждому помощнику доверена одна вещь, которую самому агенту доверять не стали.

hermes

программа-агент
Что делает
Читает ваше сообщение, думает нейросетью, пользуется инструментами – ищет, читает, пишет – и отвечает. Это та самая открытая программа, которую можно поставить и самим. В коробке поверх неё стоят наши правки и готовые умения.
Почему отдельно
Он единственный, кто читает чужой текст и может ему поверить. Поэтому ключи ему в руки не дают. Они хранятся в сейфе коробки, а пользуются ими помощники и общие службы.
Если убрать
Убрать его нельзя – это и есть агент. Можно только не давать ему ключей.

tgbotproxy

связь с ботом
Что делает
Передаёт сообщения между агентом и Telegram.
Почему отдельно
Ключ бота – это пароль, с которым программа говорит от имени бота. Агенту его не показывают. Если у агента свой бот, ключ лежит у tgbotproxy. Если бот общий – у общего бота.
Если убрать
Ключ бота лежал бы у агента. Кто уговорил агента – тот увёл бы бота.

trip2g

показывает заметки как сайт
Что делает
Показывает заметки агента в браузере как сайт. Сами заметки лежат в папке агента – агент записывает, вы читаете.
Почему отдельно
Заметки – единственная память агента, которую можете прочитать вы. Поэтому их показывает отдельная программа со своим входом, а не сам агент.
Если убрать
Прочитать память агента вы бы не смогли. Открыть одну папку коллеге или его программе – тоже.

mailbox

почтовый ящик агента
Что делает
Хранит письма агента и его «дружбы» – список агентов, с которыми ему разрешено переписываться. Подключает его к почте коробки.
Почему отдельно
Написать произвольному агенту нельзя. А письмо можно придержать до проверки – оно ждёт, пока человек его отпустит.
Если убрать
Агенты писали бы друг другу что угодно, и никто бы этого не видел.

selfservice

подключение аккаунтов
Что делает
Даёт вам подключить свой аккаунт по ссылке. Агент присылает ссылку, ключ вы вводите сами на отдельной странице.
Почему отдельно
Агент пользуется доступом, но ключ не видит.
Если убрать
Пароль пришлось бы написать агенту в чат. А из чата он мог бы уйти куда угодно.
Часть третья

Что коробка делает, когда вы создаёте агента

Вы заполняете короткую форму в панели. Или пишете администратору коробки «создай агента» – это первый агент на коробке, он умеет создавать других. Остальное коробка делает сама. Своего Клода о каждом из этих шагов пришлось бы просить отдельно.

  1. Берёт ваши ответы

    Имя агента, кто он и для кого работает, кому он отвечает. Больше от вас ничего не нужно.

  2. Собирает агента по общему шаблону

    Шаблон один на всех агентов. Поэтому сотый агент собран так же, как первый.

  3. Создаёт ячейку для агента

    Планировщик заводит на сервере новую ячейку и запускает в ней hermes и помощников – связь с ботом, заметки, почту, подключение аккаунтов.

  4. Заводит базу заметок

    При первом запуске в неё кладутся первые заметки. У агента сразу есть память и страница, где вы её читаете.

  5. Даёт дорогу к модели

    Агент думает через посредника. Ключ от подписки ему не выдают.

  6. Сажает агента в чат

    В Telegram общий бот создаёт тему с именем агента и сажает его туда. Писать ему могут только люди из списка.

  7. Агент знакомится

    На первое сообщение он говорит, кто он, и задаёт три коротких вопроса о вашей работе. Можно ответить «давай позже».

На создание агента уходит 20 секунд. Настройка под вас – характер, умения, доступы – идёт после, и её время зависит от того, что вы просите.

Часть четвёртая

Путь одного сообщения

Вы написали агенту «сделай». Вот через что проходит сообщение – и у кого на каждом шаге лежит ключ. Пример – Telegram, как на вашей коробке. В Compass на месте общего бота стоит роутер Compass.

  1. Вы

    Пишете в Telegram, в теме агента.

  2. Общий бот и tgbotproxy

    Общий бот принимает сообщение, tgbotproxy передаёт его агенту. По дороге вас сверяют со списком. Чужое сообщение до агента не доходит.

    КлючКлюч бота – у общего бота. Агенту его не показывают.
  3. hermes

    Читает сообщение, смотрит в заметки, решает, что делать.

    КлючКлюча бота и ключа подписки у него нет.
  4. Посредник к модели

    Добавляет ключ подписки к запросу, который уже ушёл от агента.

    КлючКлюч подписки – здесь.
  5. Модель

    Нейросеть думает и возвращает ответ. Тем же путём он приходит к вам в тот же чат.

Где должен лежать пароль, чтобы это стало опасно

У hermes. Он единственный на этом пути, кто читает чужой текст и может сделать то, что в нём написано. Поэтому в коробке у него нет ни ключа бота, ни ключа подписки, ни паролей от ваших сервисов. Уговорить можно агента. Программу рядом с ним уговорить нельзя.

Часть пятая

Секреты, стены и интернет

Мы заранее считаем, что сломаться или быть взломанным может что угодно. Поэтому коробка устроена так, чтобы одна беда не тянула за собой остальное.

Агент пользуется доступом, но ключ унести не может

Ключ бота – у tgbotproxy или у общего бота. Ключ подписки – у посредника. Ключ от вашего сервиса вы вводите сами на отдельной странице. Ключи и пароли агент не пишет ни в заметки, ни в чат.

Везде – минимум два замка

К паролям, данным и доступам ведут как минимум две отдельные защиты. Пример – ключ подписки. Уговорить агента мало – ключа у него нет. Нужно ещё взломать посредника, а это другая программа.

У каждого агента своя ячейка

Своя память, свои доступы, свои настройки. Заметки одного агента не видны другому, пока вы сами не открыли ему одну папку. Доступы одного у другого не работают. Коллега может сломать только своего агента.

Интернет агенту можно выключить

Это переключатель в панели. Тогда сам агент – его инструменты и браузер – в интернет не ходит. На коробке с Telegram наружу выходят только Telegram, подключённые аккаунты и службы самой коробки.

Чего это не гарантирует

  • Агент читает текст и может принять чужую строчку за вашу просьбу. Чужой текст приходит к нему с пометкой «это сведения, а не указания». Но пометка – это слова. Агент почти всегда их слушается, но не всегда.
  • Поэтому главный вопрос – не «поймает ли агент подвох», а «что случится, если не поймает». Ответ зависит от того, что этому агенту доступно. Для работы с посторонними заводят отдельного агента, у которого ценного просто нет.
Часть шестая

Готовые проверенные интерфейсы

Это то, что самим пришлось бы выбирать, ставить и проверять вместе с Клодом. В коробке это уже стоит. Список взят из справочной коробки.

Есть у каждого агента сразу

  • Разговор в мессенджере – чат, группа, файлы
  • Telegram или Compass – что из двух, выбирают при установке коробки. Другой мессенджер можем подключить
  • Голосовые сообщения
  • Заметки и дневник
  • Документы Word, Excel, PowerPoint
  • Дела по расписанию
  • Доска задач – через неё агент раздаёт работу
  • Письма другим агентам
  • Поиск в интернете и чтение страниц
  • Справочная по коробке
  • Подключение аккаунтов по ссылке

Включается в панели

  • Настоящий браузер
  • Экран с браузером, который видите и вы
  • Работа от вашего аккаунта Telegram
  • Поиск по переписке вашего Telegram
  • Веб-чат с агентом
  • Выгрузка данных из вашего сервиса по расписанию
  • Мини-агенты под одну работу – их описывают заметкой
  • Выключение интернета
  • Точное распознавание голоса
  • Более сильный поиск в интернете

Подключение ваших сервисов

  • Таблицы Google
  • Календарь Google
  • Аккаунт Яндекса
  • Яндекс Метрика
  • Любой сервис с ключом – касса, склад, банк, рассылки

Страницы агента

  • Сайт из заметок
  • Форма на странице агента – ответы он читает сам
  • Вход на страницы через мессенджер, без пароля
  • Страницы агента кнопкой в чате Telegram
  • Поделиться одной папкой заметок с человеком или программой

Между агентами

  • Письма и «дружба»
  • Общая папка заметок
  • Общий чат с темами
  • Роли – готовые описания работы, общие для нескольких агентов

Слово «интерфейс» здесь шире, чем мессенджер. Это любой готовый способ, которым агент работает с чем-то одним – с чатом, с таблицей, с браузером.

Коротко о том, что вы уже знаете

Четыре вещи, из которых сделан агент

Характер

Кто он и каким тоном говорит. Лежит в папке агента. Меняет ваш Клод по инструкции к коробке, или вы пишете его словами при создании.

Умения

Что он делает по шагам. В инструкции – «скиллы». Лежат в папке агента. Скажите агенту «запомни это как умение».

Память

Его заметки. В инструкции – «база знаний». Лежат в папке агента, trip2g показывает их как сайт. Скажите агенту «запиши это».

Доступы

Кому он отвечает и что ему включено – в панели. Ваши аккаунты подключаются по ссылке через selfservice.

После того как поменяли характер или умение, отправьте агенту в чат команду /new. Он начнёт разговор заново и увидит изменения.

Откуда берётся «стабильно» и «безопасно»

Стабильно

  • Агент живёт на сервере, а не на вашем ноутбуке. Закрыли крышку – он работает.
  • Все агенты собраны по общему шаблону. В сотый раз – как в первый.
  • Память – это заметки в папке агента, а не «в голове». Перезапуск её не стирает.
  • Запуском занимается планировщик, а не вы.

Безопасно

  • Ключи хранятся в сейфе коробки. Пользуются ими помощники и общие службы, а не агент.
  • У каждого агента своя ячейка. Попасть из неё в чужую нельзя.
  • Кого агент слушает, решает список в панели, а не сам агент.
  • Сам себе агент возможностей не включает. Это делают в панели.
  • Интернет агенту можно выключить.

Слова, которые встретятся в инструкции

Инструкция пользуется ими без объяснений. Вот что они значат.

Агент
ИИ-сотрудник со своим характером, умениями, памятью и доступами. Ему пишут в мессенджере.
Коробка
Один сервер, на котором живут ваши агенты. Сервер – это отдельный компьютер в интернете.
Hermes
Открытая программа-агент. На ней построен агент коробки.
Панель
Страница в браузере, где видно всех агентов и их настройки.
Оператор
Человек, который управляет коробкой через панель. На вашей коробке это вы.
Администратор коробки
Первый агент на коробке. Ему пишут словами – «создай агента». Не путайте с оператором – оператор это человек.
Ячейка
Закрытое место одного агента на сервере – его программа, помощники и папка. В инструкции ячейку называют «под».
Контейнер
Закрытая упаковка для одной программы. Программа в контейнере не видит соседних. Ячейка агента – это несколько контейнеров рядом.
Сайдкар
Маленькая программа-помощник, которая работает рядом с агентом и держит одну вещь – ключ бота, почту или подключённые аккаунты.
Nomad
Планировщик. Создаёт на сервере ячейки и запускает в них агентов.
Vault
Хранилище секретов – сейф коробки. В нём хранятся ключи, которыми пользуются помощники и общие службы.
codex-broker
Посредник к модели. Через него все агенты думают одной подпиской.
Модель
Нейросеть, которой агент думает. В коробке это ваша подписка ChatGPT – одна на всех агентов. Пока её не подключили, агенты не отвечают.
tgbotproxy
Программа связи с ботом. Ключ бота держит она или общий бот, но не агент.
trip2g
Программа, которая показывает заметки агента как сайт. Сами заметки лежат в папке агента.
База знаний
Заметки агента. Его память.
Скилл
Умение – записанный по шагам способ делать одну работу.
mailbox
Почта между агентами. «Дружба» – разрешение двум агентам переписываться.
selfservice
Подключение ваших аккаунтов по ссылке, без передачи пароля агенту.
Group router
Общий бот коробки. Один на всех агентов, у которых нет своего бота.
Тема
Отдельный чат внутри группы Telegram. У агента за общим ботом своя тема.
tgauth
Вход на страницы агента через мессенджер, без пароля.
Compass
Корпоративный мессенджер. Агенту пишут в группе Compass.
compassrouter
Роутер Compass. Один аккаунт, который говорит в Compass за всех агентов коробки.
Веб-чат (webchat)
Чат с агентом в браузере. Включается агенту в панели.
promptguard
Проверка чужого текста на попытку управлять агентом.

Что сделать дальше

  1. Отдайте инструкцию Клоду

    Инструкция к вашей коробке написана для него. Скажите – «настрой коробку по этой инструкции». Он скажет, что нужно от вас. Например – подключить подписку ChatGPT.

  2. Попросите создать агента

    Напишите администратору коробки в его теме в Telegram – «создай агента для монтажа роликов, отвечает только мне».

  3. Научите его одному делу

    Расскажите новому агенту, как вы монтируете, и попросите записать это как умение. Потом дайте первую задачу.

Остались вопросы?

Напишите в Telegram – ответим человеческим языком.

Спросить в Telegram