Опробование GPT4All в Arch Linux

Итак, вы хотите запустить свой собственный GPT на своем компьютере? Да и я тоже.

Таким образом, доступны некоторые модели LLaMA (если у вас видеокарта 24G) и другие способы сделать это, но GPT4All обещает быть другим решением. Я увидел этот твит и должен был его проверить.

Так кто же запускает двоичный файл на своей машине из какого-то рандо в Интернете? Обычно не я. Тем не менее, Брайан Реммеле кажется законным парнем, и многие люди, которых я уважаю, следуют за ним. Поэтому я решил довериться ему и запустить это на своем ноутбуке. Возможно, нет. Если это так, запустите это на виртуальной машине или на Tails или что-то в этом роде.

Вот еще немного информации о GPT4All.

С их сайта:

GPT4All Chat — это локально работающее приложение для чата с искусственным интеллектом, работающее на основе чат-бота GPT4All-J Apache 2 License. Модель работает на процессоре вашего компьютера, работает без подключения к Интернету и не отправляет данные чата на внешние серверы (если вы не согласитесь на использование данных чата для улучшения будущих моделей GPT4All). Это позволяет вам общаться с большой языковой моделью (LLM), чтобы получать полезные ответы, идеи и предложения. GPT4All Chat доступен для Windows, Linux и macOS.

Вы можете получить его для:

• Макинтош
• Виндоус
• Линукс

Я решил попробовать это в Arch Linux, потому что, конечно. Поехали.

Установка

Установка очень проста. Вот шаги.

Я скачал файл отсюда.

выполнил следующее:

chmod +x gpt4all-0.1.0-Linux.run
./gpt4all-0.1.0-Linux.run

Он открывает этот экран:

Нажмите кнопку Далее.

Запишите эту папку. В моем случае это было Вам понадобится это место, чтобы запустить его./opt/gpt4all 0.1.0

Выберите компоненты (пока только один)

Примите условия соглашения (GNU Public License)

И он готов к установке.

Возьмите свой любимый напиток.

В твите было сказано 20 минут, но это заняло менее 10 минут (около 6) с моим ноутбуком со следующими характеристиками:

• Intel Core i7-11800H 4600 МГц
• Память 32 ГБ
• НВМЭ

Ваши результаты будут отличаться, но это не заняло много времени.

Partytimeexcellent. Нам конец. Давайте разбираться.

Запуск приложения GPT4All.

Итак, давайте перейдем к /opt/gpt4all 0.1.0

cd /opt/gpt4all\ 0.1.0/
cd bin
./chat

Вы увидите это в своем терминале:

И он загружается прямо вверх:

Задать вопрос GPT4All

Мой первый вопрос:

выступать в роли супер классного профессионального разработчика Linux. Подскажите, как я могу проверить последние 50 системных сообщений, выпущенных моим ядром

Удивительно, это дало мне ответ:

To check for the last 50 system messages your kernel put out, you can follow these steps:

1. Open your terminal on your Linux machine.
2. Type the command `dmesg -s' (with a lowercase "s"). This will give you a summary of all the system messages that your kernel has put out.
3. Look for the system messages that have the word "system" in them. You can do this by filtering the output of the command. For example, to only show system messages, type the command `dmesg -s | grep system`.
4. Once you have the list of system messages, you can scroll through them to find the last 50 messages. To do this, you can use the command `dmesg | tail -n 50`. This will show you the last 50 system messages.
5. You can also use the command `last 50 system messages` to get a list of the last 50 system messages.

Что ж, давайте попробуем.

Проверка результатов

Итак, я сделал первый шаг, открыв терминал. Затем шаг 2:

2. Введите команду 'dmesg -s' (со строчной буквой "s"). Это даст вам сводку всех системных сообщений, выпущенных вашим ядром

Итак, я запустил это:

О. Грустная труба. Хотя GPT4All был технически правильным, вам нужно указать размер буфера:

Ничего страшного, возможно, это моя вина. Я немного изменю подсказку.

выступать в роли супер классного профессионального разработчика Linux. Подскажите, как я могу проверить последние 50 системных сообщений, которые мое ядро выдало в Arch Linux.

Это дает мне другой результат:

To check for the last 50 system messages in Arch Linux, you can follow these steps:

1. Open your terminal on your Linux machine.
2. Type the command `dmesg | tail -n 50 | grep "system"`. This will show you the last 50 system messages.
3. You can also use the command `last 50 system messages` to get a list of the last 50 system messages.

Note: The "system" keyword in the `dmesg` output should be enough to find the last 50 system messages. However, if you want to make sure that you have not missed any messages, you can also use the command `dmesg -k | grep "system"` to search for any kernel messages related to system activities.

Хорошо, круто. Давайте попробуем.

Ой, думаю, я должен использовать sudo.

Эй! Оно работало. Я могу простить эту небольшую оплошность просто потому, что это обучено на тексте из Интернета, и вряд ли КАКИЕ-ЛИБО учебники говорят вам использовать sudo для этого.

Продолжайте двигать.

Давайте попробуем

last 50 system messages

Я никогда в жизни не пользовался этой командой, так что давайте посмотрим:

Хорошо, хорошо, там есть сообщение о wtmp. Это файл системного журнала, в котором хранятся записи о входах пользователей. Я только что включил эту машину, так что это имеет смысл.

Тем не менее, я знаю, что есть больше сообщений ядра, чем только это. Так что проверю заметки:

Примечание: Ключевого слова "system" в выводе должно быть достаточно, чтобы найти последние 50 системных сообщений. Однако, если вы хотите убедиться, что не пропустили ни одного сообщения, вы также можете использовать команду для поиска любых сообщений ядра, связанных с действиями системы.dmesgdmesg -k | grep "system"

Опять же, я должен использовать для этого:sudo

sudo dmesg -k | grep "system"

Замечательно. Это тоже сообщение ядра!. По сути, это сообщение журнала ядра, связанное с синхронизацией файловой системы. Их много, потому что он отслеживает синхронизацию с тех пор, как я загрузился (что было не так давно).

И эту конкретную команду я использовал довольно часто. Так что приятно видеть это здесь в качестве ответа.

Хорошая работа GPT4All.

Объясните свои ответы

Итак, давайте посмотрим, насколько хорошо он объясняет ответы, которые он только что дал мне.

explain in detail how "last 50 system messages" works

Поскольку я никогда не использовал эту команду, мне искренне любопытно узнать об этом.

Ответ:

The "last 50 system messages" command is used to show a list of the last 50 system messages that have been put out by the kernel on your Linux machine. To get this list, you can use the `dmesg` command with the `-s' option to search for system-related messages. This will give you a summary of all the system-related messages that your kernel has put out.

After running the `dmesg -s' command, you can scroll through the output of `dmesg` to find the last 50 system messages. These messages will have the keyword "system" in them, and will have been put out by the kernel. You can then use the `last 50 system messages` command to show you the last 50 system messages your kernel has put out.

If you need to search for system-related messages that have not been mentioned in the output, you can use the command `dmesg -k | grep "system"` to search for any messages related to system activities. This will give you a complete list of system-related messages, which you can then use to find the last 50 system messages.

Итак, похоже, что это псевдоним 'dmesg -s' с каким-то произвольным значением. Классно. Теперь я знаю.

Сводка

Вот мой краткий опыт работы с «ChatGPT на рабочем столе». Конечно, я буду копаться гораздо больше. Признаюсь, я абсолютно ничего не знаю о том, как это работает под одеялом. Он даже говорит, что работает в автономном режиме. Я попробовал. Я отключил подключение к Интернету и отправил следующее:

Кратко объясните, как работают большие языковые модели, чтобы ученик средней школы мог их понять

Хорошо, я официально в тупике. Как вы можете видеть на моем скриншоте, у меня нет подключения к Интернету, но он все еще выдает объяснение.

Как это работает? Понятия не имею.

Кто такие Multiplex и как они зарабатывают деньги? Понятия не имею.

Я предполагаю, что это использование некоторого API для модели GPT и некоторых умных вещей локального кэширования. Они, вероятно, выпускают его бесплатно, но будут взимать плату позже. Это справедливо. Если я получу от него отличные результаты, я с радостью заплачу разумную плату за его использование.

Так что я продолжу работать над этим и посмотрю, что я могу получить от этого. Я поделюсь своими результатами здесь.

Спасибо за чтение!