V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  ShadowPower  ›  全部回复第 1 页 / 共 78 页
回复总数  1559
1  2  3  4  5  6  7  8  9  10 ... 78  
2 小时 16 分钟前
回复了 huage 创建的主题 NVIDIA 获得了一张 RTX4060TI 16GB,怎么样发挥它的价值?
@laobobo 2K 以下分辨率,所有游戏特效随便开最高,4K 不行
2 小时 20 分钟前
回复了 mailke 创建的主题 MacBook Pro 用 Mac,真的能够更好学 it 吗
@AlexHsu 有 WSL 的情况下,Windows 装 Redis 和 Linux 并没有什么区别。跑起来之后 WSL 外的程序也能直接连上。
2 小时 27 分钟前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
@lithiumii 还真不行,个人用其实 2x3090 最划算,Mac 的问题在于速度实在是太慢了。
别看 NVIDIA 的显存不大,但个人项目如果模型不大,全参数训练完全没问题。如果模型大的话,NVIDIA 有 bitsandbytes 和 flash attention 这些生态,又能省显存又能提速。

用 Lora 、Dora 这类方法来微调模型的时候,基础模型的权重其实可以保持在量化状态,只要能推理就行。但 Mac 用不了 bitsandbytes ,反而需要巨大显存(内存)+缓慢的速度。

哪怕能用 MPS 后端来跑(无论上层框架是什么)且没有兼容问题,对于训练任务,提速效果都不好。一般也就比 CPU 跑快 1~2 倍,苹果的 ANE 是完全用不上的(好像是因为不支持反向传播,我不太确定)。

大内存的 Mac 几乎就是 llama.cpp 推理专用机……如果只用过这个,确实会觉得在家里训练不了什么模型。

至于大公司的例子,他们都有一大堆 A100 ( A800 )、H100 ( H800 ),当然不会用消费级显卡来跑,而且 NVIDIA 的许可协议在几年前就专门规定禁止将消费级显卡运用于数据中心等用途了。这不代表普通消费者不能这么干。
3 小时 10 分钟前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
@LuckyLauncher 除了参数量很大的 LLM 以外,大多数东西用消费级显卡还真能搞定。
很多生产力任务都已经用上了,比如:
高质量视频插帧、视频降噪、视频超分辨率、SDR 转 HDR 、光追渲染加速(少量采样+AI 预测最终结果)
Stable Diffusion XL 也达到了生产可用的程度,当然,没达到“能直接取代人”的程度……

娱乐方面也有:
同上,视频插帧、超分辨率等,但也可以运用于实时游戏中,例如 SDR 游戏画面转 HDR ( Windows AutoHDR )、游戏超分辨率( DLSS 2 )、游戏插帧( DLSS 3 )、优化光追效果( DLSS 3.5 )

这些技术虽然有传统算法实现的替代方案,但是质量不如基于神经网络的……

还有很多不用显卡就能搞定的,例如歌声合成(像 Synthesizer V 这样的软件),语义分割,光学字符识别,语音识别等等。

最大的开源端到端的语音识别有 Whisper ,只要消费级显卡就可以跑了。

用不那么大的 LLM (~13B ,量化以后可以用消费级显卡跑)跑文本翻译之类的任务,也能满足不少需求。


如果是指训练模型,公司就有用 3090 、4090 来训练的模型,做下游任务的微调还真能用。
3 小时 36 分钟前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
@mumbler 能跑其实很容易,只是跑得快不快……
用 cpu 就能跑,而且也有 1.2~1.4token/s
4 小时 38 分钟前
回复了 mcryeasy 创建的主题 MacBook Pro MacBook Pro M1 外接 红米显示器时会变灰
解决方法(非常折腾):
https://gist.github.com/GetVladimir/c89a26df1806001543bef4c8d90cc2f8

这个问题的原因是 macOS 输出了有限范围的色彩(把显示器当做电视机识别,RGB 范围是 16~232 )
而且 Type-C 输出也会这样,按理来说,不应该出现这种情况才对:

https://discussions.apple.com/thread/252439407?sortBy=best&page=1


有些显示器看起来没问题,那是因为这些显示器可以自动检测输入的 RGB 范围,然后把 16 映射为 0 ,把 232 映射为 255 。看起来好像是“正常”了,但实际上色彩精度依然有损失……
23 小时 9 分钟前
回复了 mailke 创建的主题 MacBook Pro 用 Mac,真的能够更好学 it 吗
虽然听起来不可思议,但我的计算机入门还真是通过山寨版 FC 学会的……
就是 20 多年前的那种“学习机”。

还学会了盲打,把盲打的速度练到了每分钟 100 个正确的英文字母的程度。
@PDX 其实再往前几年,用 MacBook 看 B 站视频的时候,风扇的声音跟飞机引擎差不多
除非用插件把播放器替换成 html5 ,这样才能好不少
1 天前
回复了 alexcding 创建的主题 Apple 微软发布 ARM 版本的 Surface Pro 系列
@CodeCodeStudy 相比传统电脑厂商,我更期待手机厂商,他们调高通/ARM 的经验更丰富一些。
苹果过去的隐私丑闻有不少,不考虑黑客攻击或者漏洞导致的那些,也有一个苹果将 Siri 收集到的个人隐私信息泄露给第三方,这肯定是苹果主动干的。

为什么会相信苹果对隐私的承诺呢?
2 天前
回复了 digd 创建的主题 OpenAI 没有人讨论微软刚发布的 Copilot+PCs 吗?
我在等小米或者荣耀的产品,到时候买一台玩玩
2 天前
回复了 alexcding 创建的主题 Apple 微软发布 ARM 版本的 Surface Pro 系列
@darkengine 其实还好,这比苹果花钱让游戏厂商移植 3A 大作到苹果平台要容易得多。

苹果有自己的局限性,macOS 过去的软件生态相比 Windows 而言,还是存在不足的。

如果软件厂商想支持 ARM 平台,目前手里有 Windows x86 ( 64 位),目标平台有 Windows on ARM 、macOS ARM 、Linux ARM 可选,那么,移植到 Windows on ARM 总是最轻松的。

哪怕某些库的源码丢了,微软也给出了 ARM64EC 的方案,允许程序有一部分没有移植也能跑起来,或者第三方插件依然只支持 x86 而不能移植的问题。移植到 macOS 可就没有这种选项了,要么全部移植,要么不可用,等于白干……

苹果的另一个局限性是,虽然看起来苹果电脑还有一定的市场份额(尤其是美国市场),但其中约 3 成是 MacBook Air ,占 5 成的 MacBook Pro 中,有一大半是丐版。

而微软和高通的合作协议很快就要到期了,将来会有各种硬件厂商入局,会出现各种不同形态,满足各种需求的产品。
2 天前
回复了 alexcding 创建的主题 Apple 微软发布 ARM 版本的 Surface Pro 系列
@dilidilid 我反而还不希望 x86 消失。未来应该会划分成两个细分市场,x86 和 ARM 在不同的细分市场里发挥自己的优势。

在现在的 Windows 11 on ARM 里,应用程序可以是部分原生的,例如 x64 程序可以直接使用 ARM64EC 的系统库(如 DirectX )。苹果的目标是完全转向 ARM ,因此目前没有,以后也不会有。

很多软件的核心逻辑其实依赖了大量的开源库,如果用户量上去了,必然会有爱好者去编译 ARM64EC 版开源库来替换各种软件中的核心库。

注:ARM64EC 库的性能和 ARM64 几乎一样,它不是从 x86 指令转译出来的,而是从源码直接编译得来的。
2 天前
回复了 alexcding 创建的主题 Apple 微软发布 ARM 版本的 Surface Pro 系列
@shinsekai Windows RT 那时候微软的目标是推出一款只能使用 Metro UI 应用的设备,提供的桌面环境仅用于运行桌面版 Office 三件套(当时微软还没有开发 Metro/UWP 版的计划)。

当时我还在上学,微软时不时来学校做宣传演讲,描绘了一个微软期望中的未来:将来所有娱乐、内容消费向应用都会变成 Metro/UWP 应用,一次开发就可以同时在 WP 、平板、PC 、XBox 上运行。

那时候微软的新 API 甚至都不给桌面应用使用。Windows RT 就是在这个时代背景下诞生的……

现在微软根本不会有当年那种想法。
2 天前
回复了 alexcding 创建的主题 Apple 微软发布 ARM 版本的 Surface Pro 系列
@darkengine 其实有,微软不缺钱,这种事情给钱就可以搞定……
当然,前几代产品的处理器实在太糟糕,也许微软认为不值得在这上面花钱。
Sonoma 还好吧,前 2~3 个大版本还得每天重启,否则会很卡
3 天前
回复了 HashV2 创建的主题 Apple 你们的 mac 有没有这个问题,是不是 bug?
一直有这个问题,估计是浮点数精度误差,手动拖拽一下窗口,重启应用再放大就好了。
苹果自己的 AI 在这:
https://huggingface.co/apple/OpenELM

只是最大的模型效果也很不好,国内的面壁智能的 MiniCPM 只需要 66%的参数量都能取得远超苹果的效果……
3 天前
回复了 drymonfidelia 创建的主题 iPad 用 iPad Pro 学习画画有必要装类纸膜吗?
10 元买一本素描本
1~2 元买一根铅笔或者炭笔
2 元买一块橡皮

入门仅需要上面这些,练好结构素描和明暗素描之后再接着考虑……
1  2  3  4  5  6  7  8  9  10 ... 78  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4906 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 48ms · UTC 07:58 · PVG 15:58 · LAX 00:58 · JFK 03:58
Developed with CodeLauncher
♥ Do have faith in what you're doing.