PocketPal

PocketPal是一款功能豐富的AI智能對(duì)話助手，為用戶們提供了豐富多樣的功能，無論是學(xué)習(xí)、工作還是日常生活，都能夠提供給很大的幫助，在手機(jī)上即可與AI進(jìn)行對(duì)話，有需要的朋友們趕快來下載體驗(yàn)吧!

軟件簡(jiǎn)介

PocketPal是一款非常實(shí)用的AI智能對(duì)話助手，強(qiáng)大的軟件功能，能夠直接在手機(jī)上運(yùn)行，自定義的參數(shù)，=為日常生活提供了很大的幫助，豐富多樣的內(nèi)容，，等待你的解鎖，感興趣的朋友們千萬不要錯(cuò)過!

PocketPal功能操作

使用流程

下載模型

點(diǎn)擊漢堡菜單

導(dǎo)航到 “Models”頁面

選擇您想要的型號(hào)并點(diǎn)擊下載

加載模型

下載后，點(diǎn)擊 Load將模型導(dǎo)入內(nèi)存?，F(xiàn)在您可以聊天了!

技巧

在 iOS設(shè)備上，Apple的 GPU API (Metal)默認(rèn)處于激活狀態(tài)。如果您遇到任何問題，請(qǐng)嘗試停用它。

iOS金屬

自動(dòng)卸載/加載

為了保持設(shè)備平穩(wěn)運(yùn)行，PocketPal AI可以自動(dòng)管理內(nèi)存使用情況：

在模型頁面上啟用 “Auto Offload/Load” (默認(rèn)情況下是)

該應(yīng)用程序?qū)⒃诤笈_(tái)卸載模型

當(dāng)您返回時(shí)，它會(huì)重新加載(對(duì)于較大的模型，請(qǐng)等待幾秒鐘)

高級(jí)設(shè)置

單擊 V形圖標(biāo)可訪問高級(jí) LLM設(shè)置，例如：

溫度

BOS代幣

聊天模板選項(xiàng)

等。

最后，讓我們聊聊吧!

加載模型后，前往 “聊天”頁面并開始與加載的模型交談!

此時(shí)還會(huì)顯示 generation performance (生成性能)指標(biāo)。如果有興趣，請(qǐng)觀察聊天氣泡以獲取實(shí)時(shí)性能指標(biāo)：每秒令牌數(shù)和每個(gè)令牌的毫秒數(shù)

重要提示：截至目前，我還沒有找到一種簡(jiǎn)單的方法來從生成的響應(yīng)中選擇和復(fù)制文本，同時(shí)保留文本格式，尤其是 Markdown支持。

同時(shí)，以下是當(dāng)前用于復(fù)制文本的選項(xiàng)：

段落級(jí)復(fù)制：長(zhǎng)按特定段落可復(fù)制其內(nèi)容。

完整響應(yīng)復(fù)制：使用文本氣泡底部的復(fù)制圖標(biāo)復(fù)制 AI生成的整個(gè)響應(yīng)。

PocketPal常見問題

部署方法

1.百度找到奧兔兔官網(wǎng)

2.在奧兔兔官網(wǎng)中搜索PocketPal，點(diǎn)擊下載

3.打開軟件點(diǎn)擊Models，點(diǎn)+，點(diǎn)Hugging Face搜索大模型

4.盡量下載名字帶Q4_NL(4bit量化 normal壓縮)的模型，回答比較精準(zhǔn)。

5.解釋一下部分量化標(biāo)識(shí)命名規(guī)則：NL平衡精度與速度(Normal)、M中等優(yōu)化(middle)、 XS極致壓縮(Extra Small)、K極限壓縮(K-special)、Qx量化位數(shù)(手機(jī)上運(yùn)行 Q4最佳)。

6.在加載好模型后在Settings中把N PREDICT設(shè)置為4096。

PocketPal軟件特色

1、離線 AI協(xié)助：直接在您的設(shè)備上運(yùn)行語言模型，無需互聯(lián)網(wǎng)連接。

2、模型靈活性：下載并在多個(gè) SLM之間進(jìn)行交換，包括 Danube 2和 3、Phi、Gemma 2和 Qwen。

3、uto Offload/Load：當(dāng)應(yīng)用程序在后臺(tái)運(yùn)行時(shí)，通過卸載模型來自動(dòng)管理內(nèi)存。

4、推理設(shè)置：自定義模型參數(shù)，如系統(tǒng)提示符、溫度、BOS令牌和聊天模板。

5、實(shí)時(shí)性能指標(biāo)：在 AI響應(yīng)生成期間查看每秒令牌數(shù)和每個(gè)令牌的毫秒數(shù)。

PocketPal軟件測(cè)評(píng)

PocketPal這一款非常好用的AI智能對(duì)話軟件，軟件功能豐富多樣，操作方便快捷，新手用戶們也可以輕松上手體驗(yàn)，能夠直接在手機(jī)上運(yùn)行，豐富的參數(shù)設(shè)置，可以根據(jù)自己的需求進(jìn)行調(diào)整，直接對(duì)話，有需要的朋友們趕快來點(diǎn)擊下載吧!