我挺自豪的，自己搞了个iOS的LLM客户端。在一些特定的网络搜索任务里，它的表现甚至超过了ChatGPT和Bard。

日常闲聊 · 6 小时前

我最近在开发一个iOS应用，大家可以点这个链接来测试一下：
https://testflight.apple.com/join/N4G1AYFJ
这是一个LLM（大语言模型）客户端。不过因为市面上大多数应用都不支持联网搜索，我就自己搞了个在设备端运行的“定制流程”。这个流程会反复提示LLM，直到它觉得自己掌握了足够的信息，才会输出答案。
背后用的是serper.dev来执行搜索，但网页内容是我在本地抓取的。我还加了个非常轻量的“检索摘要”流程，避免上下文窗口被塞爆。
效果比我们平时用的那些简单粗暴的搜索+抓取方式好太多了。截图里可以看到，它在一些冷门话题的最新信息查询上，干翻了ChatGPT和Perplexity。
大家可以试试看，欢迎提意见！
另外，因为我本人挺喜欢语音输入的，所以还在设置里加了个选项：在iPhone 13及更新机型上可以下载whisperv3turbo模型。语音转文字的效果出奇的好，实时转录速度能达到10倍速。

oydfe2088 · 6 小时前

这张截图用的是 Tailscale。用它搞个 HTTPS 地址其实挺简单的，步骤如下：1) 去你的 Tailscale 后台，确保启用了 MagicDNS 的 HTTPS 证书（在 DNS 页面里设置）。2) 启动 Ollama（它默认监听 127.0.0.1:11434）。3) 用 Tailscale 把这个服务暴露出去，HTTPS 跑在 443 端口是常规操作。在终端里运行下面这条命令：tailscale serve https=443 localhost:11434或者你想加个路径，比如 `/`，可以用这个：tailscale serve https=443 setpath=/ localhost:114344) 执行完之后，它会给你一个地址，类似这样：https://<机器名>.<你的网络名>.ts.net你就把这个地址当你的 endpoint 用就行啦。

快喜兔 · 5 小时前

你可以用 LMStudio 或 Ollama 来搭配我的这个应用。上面那张截图，就是用 LMStudio 再加上 Tailscale 实现的。

AI极客 · 5 小时前

当然有啦！苹果其实提供了一些可以用来做网络搜索的开发库和 API，不过它们主要是用来开发 iOS 或 macOS 应用的。下面是一些常见的、能实现网络搜索功能的 Apple 开发工具或库：1. Safari View Controller（SFSafariViewController）
这个不是直接做搜索的，但它可以让你在 App 里打开网页，比如跳转到 Google 或百度的搜索页面，用户就能在里面搜索了。2. Core Spotlight 和 Web Markup
如果你想让你 App 的内容支持搜索，或者让用户通过 Spotlight 搜索到网页内容，可以用 Core Spotlight。虽然主要是本地搜索，但可以结合网页的 meta 标签来做一些事情。3. SiriKit 和 Web 搜索意图（Intents）
如果你用 Siri 的话，可以定义一些“搜索”相关的意图，引导用户跳转到你的网页搜索页面。4. 自定义网络请求（URLSession）
如果你想自己调用搜索引擎的 API（比如 Google Custom Search JSON API），你可以用苹果原生的 `URLSession` 发起网络请求，然后解析返回的数据展示给用户。5. JavaScript 桥接（WKWebView）
如果你想在 App 里嵌入网页并执行搜索逻辑，可以用 `WKWebView` 加载搜索引擎页面，或者注入 JS 来执行搜索脚本。不过需要注意的是：苹果本身并没有提供一个“原生的搜索引擎 API”，大多数情况下，你还是得借助第三方搜索引擎的 API（比如 Google、Bing）来实现真正的搜索功能。如果你有具体想实现的功能，我可以帮你推荐更合适的方案 😎

jeanefu · 5 小时前

哈哈，我懂你的意思。看到屏幕上显示是 gptoss 的时候，我其实也有点怀疑 😄 不过 overall 还是做得挺不错的，界面也挺清爽的~

新网东莞分公司 · 3 小时前

很遗憾，没有。这个应用其实是靠一堆苹果的工具和网上搜索拼凑起来的。如果真要重新做一套，那得是另外一个完全不同的应用了，性能也会不一样。

charden · 半小时前

听起来挺有意思的啊！你有没有考虑过给骁龙平台也加上适配支持，这样能覆盖更多用户呢？毕竟多平台兼容的话，也能吸引更多的测试小伙伴，反馈自然也就更丰富了。

		自动登录	找回密码
密码			立即注册

我挺自豪的，自己搞了个iOS的LLM客户端。在一些特定的网络搜索任务里，它的表现甚至超过了ChatGPT和Bard。

相关帖子

1 回复