腾讯新闻《一线》刘雨点
9 s: m6 C7 l- a' \! |3 v7 X8 V' m- }; O% f7 Z; k
1 x$ i4 P: \# P) m& A* g2 | i- d7 R
3 I; f1 v! a3 r9 Z; M$ b* R
+ K* d% m3 U& a) u 播放
2 H0 E: E2 y4 y/ @ ) ]/ i* X' H. |! Q
下一个
2 x5 W8 E2 r4 n9 U* g$ `
- v1 P( m$ T# W& f% u7 k* M" h9 h 打开循环播放 O2 f+ \- Y0 N8 D& r4 g- f! U( s
. P1 p6 L5 ~9 ?
00:03 E( h5 m$ ?& R! Y
/
$ S2 `( Z1 n c) R5 `2 ` 01:42+ k3 y1 |$ A& V$ \
?! m: {2 @, R$ a
% b. v k* Q) [" g' G. ~. B
4 o. X/ R, k& {6 `; U " s* s8 }1 p; ]+ T+ j
4 f# J7 ~1 b5 ~5 c* t/ C, d
5 B3 X6 C7 Q+ Q1 ~ c' o& l 4 y2 u% v0 B2 w& H
4 D* A0 @- N( t7 c; o' h
; K& J" T8 T3 }/ p$ B i
4 i! _1 ~4 t' a$ x; W. m 4 [6 M: @/ W) Y% B, E `
720P9 V4 m! b! Y. y
1080P 高清SDR
9 R- Z, K$ q( L5 k, o
% p7 h- U/ B; w6 ?4 V6 C1 i
" Q5 I, ]' O2 t7 H) i i& ^2 j# z720P 准高清# T# `5 `; A3 @5 e. t
- j& X& |5 h1 M8 Y
: Q' O1 e) I, j; e3 m480P 标清
5 r3 P3 y; T4 B2 F4 g
2 o6 o9 Q/ _; e/ e
# l( L$ [) m3 ^: X
3 K7 V5 ^$ B+ y8 `( X' L [ 3 u) w3 u) f' S4 |
* F+ K7 q4 X! m
倍速: p2 Y6 C$ [9 K' k2 \
3.0X
1 S0 v& [ N) {7 n; {7 R1 i: v( ~8 }. `2.0X# e9 M0 v- I/ j% ^# ?* t. R
1.5X# S% l& f/ K0 \& F
1.25X8 o5 W2 Z! m5 Z
1.0X0 ^4 a. m0 d- d' J: ~- R
0.75X
% W; i$ L5 S }1 Q! v' t K0.5X
. {' a1 {3 k2 b) D) @5 |* } R
5 w: N9 x4 V: h 1 g$ L$ b/ y+ Q6 X! _/ u7 n
* X/ i4 }: W/ Q- ^
语言! c$ F" s" Y1 B1 ]1 W5 O6 i/ N
5 y6 D0 m) H8 }# T% f! ?1 \- y2 N, m
5 f3 j, y& V0 S0 Z) i
" C8 {/ ^2 k6 Z5 U; f" e, I8 } 多音轨* X3 m9 G% C8 e4 R2 a/ N
" G, @0 G ~" w1 b* g* v
3 \: s i# K, u2 y4 c) ?
; U. _) z P' G2 e AirPlay( I: ?8 b) t7 D4 _/ u7 s& _- A
" ^$ P3 L6 g7 E9 U' q 0& e) t1 B- m# Z$ W& P8 g$ X) n6 u
! H3 J5 Y, ^1 G" t, ~ / m- s/ J/ _( B) P1 J
{& \+ t/ M! r$ w8 J $ \+ x* q; [2 O- ]% o" Q5 h
j3 z/ J; s* H- A6 {9 L" X
" I _( ~$ x0 Q! D 静音播放中,点击 恢复音量 1 R$ J! T( }$ |; Y8 [, `1 p/ W9 ~
+ O. Y! H7 r: T+ {
" ^3 _; R( X! I# k& U6 Y 3 @0 m, Q" I' P) o/ |! W/ L
画中画
" P: v+ V: ]2 i3 O0 k0 r & @+ I! m" G, V
网页全屏
5 S8 d- `& o4 N6 a9 d- X/ B
/ j1 ^5 K' f& x; w! _ 全屏* @/ e3 B# v$ [$ U
' x) A, o6 N8 ? q
2 e: [- T, x/ g! n; W# A3 \8 B5 t( |' u
) g- X( D( f/ n- N4 P: } s) ?
) Q4 @+ {1 V% h9 N( _2 e& ?
3 R; U( Z$ U9 ?8 s <img data-role="txp-ui-error-background" alt="error-background">
) z0 d4 ?" \$ |' w8 p) F, r' n
* u0 r& X1 d3 ~2 W- R 你可以 刷新 试试
3 K2 D1 G/ |0 u' V3 x - Q) C4 H: n, ~
) ]2 x# {3 e) X7 h: X7 v5 p% x
; ~; ]! N( t: T/ L8 z6 |( o6 H3 W
9 l$ b/ J5 `9 d, T6 W
7 O0 c' K6 j- j* H) z$ i1 E @2 Q& |
' K$ n; s( u" s, W 视频信息/ d4 Y- ?3 O- L* \
1.30.10
& u+ K4 _ @/ i9 H x : W0 A7 N/ ]: j3 Y+ v* y( O! _4 U3 ~
3 y+ \9 `4 ~7 @# r5 r# U, g2 O
+ b; s; Z' S7 k & H3 C) j5 @0 A: W6 C/ ~
播放信息 上传日志 调试信息 [X] - O# L$ c5 ^% b- u# e$ I8 C/ H
视频ID, F0 l: S1 H" g6 I
VID8 w# t* s% i+ \# D. \1 d# {5 D
a14838f3r9w
/ @- O' y# x" E% y, {: L ; v+ S9 n0 s/ m! M
播放流水
- ]% N3 M; _+ f* q( v: Y+ s Flowid
( S6 l4 u' M3 n5 {9 t+ a b5cca56a7c1a40abb74bb44ba74753f0
1 b/ E0 p2 S5 j5 Q# R% Q* D I- E
& r4 S& p$ l" d# K( n2 P 播放内核$ s( Z( w" q5 M% y# s$ p
Kernel$ n5 b7 F6 F" T$ H1 T N0 M+ \* M
m3u8/hls.js (1.30.10-p2p-1.5.25)- u" {0 H4 V! W& T
3 p' ?3 f8 `0 a I6 X, e& v
显示器信息
0 O/ w$ r1 D' q3 s Res, M- |7 {2 ~+ R, d) b
-
' b |4 n' m5 k5 u
/ m$ I" l t" b0 @+ ~+ H 帧数0 `0 B; V' r& A
1/98; 1.02%
' \9 D, H4 Q: b - N# t, x4 q, P6 K- {
缓冲健康度
* @9 s7 D9 a3 P6 Y1 o1 D& L4 F 15.48s
6 G6 Y; C% ?2 ^0 n7 @& J9 }% c* c) e L2 y ) `( s0 F( [6 v+ L
网络活动
1 p, }# ]0 P5 O' A/ S net, C7 \ U% ]- u
0 KB/s 0.00/0.00/0.00/0/2/1/0/0. P9 H0 G% R' y/ j- k
. E: K& _' h4 l9 j1 G. w) T 视频分辨率
, X' S- y' H' T# s 720*960: p. r1 i. h1 Q4 [
$ C' g3 R0 e) S: ]$ K. N# o: q. @& E 编码
* Y' S& t$ I4 \2 a( F: e9 o' n4 k. E Codec% O% H! D' P9 z8 v* R
hvc1.1.6.L120.90 / mp4a.40.5 (T265)+ `0 ~$ y- g+ x0 F& R/ B/ R
. S3 }# z/ l: L* r
mystery( q# t3 m5 o/ Q4 K
mystery
/ C0 @( R# ]3 `* I7 ~ br:0.105-19.328 t:3.84 pg:1 s:cy->pg->pe->pg->pe; K/ R2 c$ h; Q- W3 C# o
' }1 ~2 d3 F! K# H
5 W) b$ u4 L# i2 Y5 x. I9 B
7 V5 c3 B0 L4 q \
; W- N, ~3 p( c 9 w% v/ }0 R+ A- _, ]$ A2 I
3 t8 u2 z, [9 g6 ?. ]
" v5 x6 B6 z1 V* y 广告被拦截插件误伤啦, 1 秒后播放 关闭拦截插件恢复正常 暂不支持打开,请用微信扫码浏览
|2 Q; w2 k0 b7 z! n1 n
' L1 E/ z ^1 j0 ]3 _& v <img data-role="creative-player-video-active-normal-video-detail-item-img">
$ r; c2 U$ o9 O& A- \) T. W 微信扫码查看更多
6 T0 a) W) G2 W T" i 无法关闭广告……继续争取广告权益…… 我知道了! 意见反馈
# o$ z1 S3 Y5 g; T5 z
h* c" L8 f# p$ f按住画面移动小窗6 a: H+ p* J8 r" m d' b9 R
$ W8 R+ t+ K7 U7 C8 v1 s
( k" V! \* A; K4 o, D. X% P( G# v8 Y3 A- X
1 [# r* g8 H' X& Z
: }3 S+ [' v, G
李彦宏:未来做APP,就跟拍短视频一样简单人人都是开发者
" Q# {& y6 u/ r' ^ D; k4 z: w4 L; _( F7 B0 h6 p1 T
“未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。”4月16日,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上发表“人人都是开发者”的主题演讲,他指出,“AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。”
" j- N$ ^2 q& [% b( q/ S* `/ `& t他表示,百度作为一家技术公司,定位是尽可能为大家提供所需的开发工具,提升社会创造力,这包括了1个基础模型系列和三大AI开发工具,它们组成了工具箱。, `5 E& ]$ r6 J9 ?
以下是李彦宏《人人都是开发者》主题演讲实录:
5 ~4 B* c: v9 n" h你只要会说话,就可以成为一名开发者
9 O) [1 J/ p q! |1 ^大家好,欢迎参加Create 2024百度AI开发者大会,这是Create大会首次在粤港澳大湾区举办。今天现场来了5000多位开发者和科技爱好者。过去这一年,我跟很多创业者、开发者交流,感觉大家都处在一种“FOMO”状态,也就是Fear of Missing Out,既兴奋、又害怕错过。确实,大模型和生成式AI,将彻底改变开发者这个群体。
$ k8 _, q3 ` O9 H) d( F5 F过去,开发者用代码改变世界;未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。
2 z6 R/ U: Q4 l这一天并不遥远,我们看到,因为有了基础大模型,有了很多低门槛,甚至零门槛的开发工具,开发者的生产力大大提高了。
5 c9 |' f+ p( H& B比如,基于文心大模型的智能代码助手Comate,不仅支持100多种语言和所有主流IDE平台,可以推荐代码、生成代码注释、查找代码缺陷、给出优化方案,还可以深度解读代码库、关联私域知识生成新的代码。上岗一年多,Comate已经走入了喜马拉雅、三菱电梯、软通动力等上万家企业,生成的代码采纳率达到了46%,百度每天新增的代码中,已经有27%是由Comate生成的。
) E4 O5 h A! t3 [今天,你不会写代码,也可以做出一个AI应用;不用编程,也可以做出一个智能体。AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。4 x7 ^2 v7 ~) F& `. I( C, C4 O6 J
作为一家技术公司,百度的角色定位,就是尽可能地为大家提供所需的开发工具,不断提升整个社会的创造力。具体来说,我们提供1个基础模型系列,就是文心大模型系列,这包括旗舰版的ERNIE3.5, ERNIE4.0, 也包括轻量版的ERNIE Speed、Lite、Tiny等等。: F. ^2 }5 @ G% m+ C
我们还提供基于大模型来开发各种应用的工具,包括智能体开发工具AgentBuilder,AI原生应用开发工具AppBuilder,以及各种尺寸的模型定制工具ModelBuilder。这三个工具,都代表了先进生产力。下面,我会给大家一一展示。% n: p1 s6 t- O* l- ~
文心一言用户超2亿,文心大模型4.0工具版发布
8 z$ H) j$ D6 v# |& k6 @: a( _* s0 j; G
! M V8 _5 Q w W$ a ' T) Y5 W& y ^4 O
! }" N4 Y, G0 s! F, n# H
$ i6 [" v/ h& \+ n6 u
播放7 n( L0 }% D4 X" c L6 h6 ?
$ u2 N2 I% s' u# e { m' K) V
下一个
- y/ \2 x/ d2 ]6 w# g
* L: f% \% T5 B( {( t 打开循环播放+ p. T( G8 U6 N- s
) J9 p7 o% I( c6 ~# k3 f+ P 00:00. U f; w% @8 ]% t
/% d0 `: t8 c1 R; z7 H/ Q1 C2 g
00:00
; @0 o6 @, v: {$ j5 j1 n, g
. f3 u: r) N0 ~9 t ( a' u# t# H! ^3 c0 ^2 d' O6 k
+ T5 V6 U& [" J. e) S
3 _, A% e! k# R, t/ s : B) N3 O6 P/ x# {
" L8 p: C% d" \% d% x2 I2 A
4 n- @7 Q; V5 ?8 Z/ P. y: `
Q7 z& p2 i8 } 2 W) z( S, Q2 `8 ^5 X! L& A' T
! J4 j: l: q4 k* h5 }8 z2 a# r
6 {! n z3 q1 | j7 t
' i! j9 v6 {, G1 t; A* \; r# \" G
$ m `: {0 }" _" L
, U4 }! j' S* j+ C. ~- `# b% M
/ B/ ^: y& p3 d' z6 F 倍速
6 @( `/ `# Q8 s, n3 c 3.0X
# N" }$ L' e# f% O; P. S% f/ H7 e3 v2.0X; y; \( R) x: H% A* Z
1.5X
1 E2 e/ h4 X9 m! i3 D. |' Y# q1.25X
' w: [0 u; t7 b4 v1.0X7 ~# G W# v, X& `
0.75X
. x: T9 B' P- c6 f/ g0.5X
0 g3 a: D8 ]1 q, C/ ^4 s/ A2 A9 o, {$ l, t" f A
4 P( L9 J9 @; g9 P
' y, A$ x8 D, d) a0 C( m/ ` 语言
6 C; x+ ]" t" Z8 X8 `1 c* S) s) B& q # T& a: ~ d( ^: b$ F* r. C' P
. ?" a2 e! `' `0 [0 R1 c& G5 p
, \' R7 t- ]2 \& }7 j% B, X
多音轨
7 C+ n- y4 p9 a0 F& b. G 1 t- ?9 A' r# F9 g' G6 U( `6 R) V
8 m! C' K, K8 R! n& V
8 |# O L- Z, k3 B$ {4 H AirPlay& O% |" p! n" H" L; l, K5 e
. y% g$ {( X% N$ @9 F# b 0* B: O ~$ e. }7 ?& ]
0 l0 a. \/ } o2 O' a# i( X+ E$ r
* e% F! f% l* U+ Z
' O: b: a z; B3 U) @6 Q% a : p l$ C" K4 C1 s( ]
0 ~: z d5 e$ r7 P% ]9 o q
" {! m; V ?* A4 O- X) e' Y 静音播放中,点击 恢复音量
2 _. \3 }+ @8 R" N# H) r. H
+ L4 N6 h" V# W. y( Z% h
$ A1 ^; l4 I4 x0 `$ q7 d# g# b , o0 f: a7 c1 j
画中画) ]( X/ v* B! g
9 [+ x/ ?0 T2 w) q5 w! y
网页全屏
2 _% R. u+ z+ P, j ) |# o* a) ]* j
全屏! y9 T* v b/ ]7 ^1 t) ]- S
" E/ @- V# f+ L* Y* d0 [/ ~ 9 n Y# ~+ R) ^1 ?* f: ?. l! O1 A
' W. _! j3 d6 @, Q8 n C' t0 N7 h* s0 l5 \+ e
K! y$ G8 ?- \ \, Q) z8 O1 C5 m
<img data-role="txp-ui-error-background" alt="error-background">
$ r" l O5 | u3 E0 `
+ ?4 e9 U* g0 U! v5 n3 S( e 你可以 刷新 试试
4 E7 K# d( O& v' S! a* h; w8 C 8 R7 `4 Q4 d0 _9 D0 J- f. _
) S. |% Z: l/ G5 H6 d1 T" U! b
# Q, r9 K5 o0 E: B e3 f
# }+ E" w3 @! r. B
9 H' p7 p7 c; s/ p& I/ w" I F1 a" q* o8 l
视频信息+ m! @7 ?5 ?. y' T" d
1.30.10% a1 Q! a% e: ^
6 L- I; R* F$ y; J: Z
$ s6 Z5 h: }. }% C: W & B$ m4 y' I; C, h& U* C
* \3 B& J# q9 O# w9 X1 }
播放信息 上传日志 调试信息 [X]
! f' U% _. n& m1 n 视频ID
0 A0 N- m6 O4 x1 r) B- i- x0 ` VID b" k) F q" M1 u q N: q
-$ I- T4 \" L# f y1 d
9 H7 [* `% D* k4 [5 i7 ?& v
播放流水
2 G# Z' c7 r1 f/ ~5 v9 a& }' h: y5 t Flowid+ J4 x( x* `" X3 a5 ]9 e' G6 v
-
) n A! G2 f) x
. N( b9 {$ r8 P3 P6 | 播放内核
. v* S3 \: `+ l0 a% j9 y/ H Kernel
; C0 y! F* U7 ]6 A0 |2 [ -; y7 } ^" B/ g' \6 l% H" d* u4 H
F& p: B( d) E; Z0 ]! _ 显示器信息
* ?1 h) f8 l+ l2 U! ^ Res
4 u, V/ f5 `0 v& v; T1 n1 Z/ s: p. a' E -' z T+ k+ ^" M- r% @' P7 O
$ y1 f' A3 s" `( S, Z 帧数
8 O, e) z4 R0 c" `0 a1 {5 X -( X2 _+ h/ J8 q
. R- u( u2 [# x& t: x
缓冲健康度. ^, ^# _8 N# ?" F4 e" W
-
* G8 k; ]- q) d P+ l . ~6 L, b& |: u1 h7 g& ]
网络活动) y7 {0 m/ g! u- [/ e5 A
net. e1 {9 ^7 P! k$ u% e3 z
-3 u' R G5 R! j) k
% r9 I3 x6 r# C: V) h3 X% {. w6 W 视频分辨率5 V/ M! n4 F7 s- |: ~
- j/ m( C: |& m* r
2 G& W- b) \' F 编码
( ~5 A7 D, }7 V! g, d& w Codec' G6 E6 |) Z* P9 i) r D$ K
-
: m6 Y% w# B' [% {) f5 |
; a1 p/ g. q- F7 }# E mystery7 V* T: [8 e# j: |9 Q% Q, m* N' n
mystery, O5 E: t! y( d/ Y, e* P# j( T8 j1 p
-# P& S# C2 W) M: Y& `! H7 U
) @8 ~/ k) P/ Y+ `4 I
, X4 _2 ?3 Y' `2 H1 G$ r, l
& ? Z; c! G4 d# v' l 2 u) s2 O0 h; c
2 l, j; s) x) ~1 e
1 Y" r- O7 W* B o3 E2 o v; \
0 Q4 e1 ^4 h: ~# D5 G按住画面移动小窗
' j, o8 T0 v( \9 A2 o
% |7 Z' T/ W$ R) c/ t6 q4 t3 W& J6 S
\% q. g$ E' Q8 J9 Z0 [
+ q# _) X) a$ w$ G$ B' J
. l( e- L R3 G+ C文心大模型4.0工具版发布:1天可以调用100万次 推理成本降到原来的1%
$ G; H+ S& j% w6 X$ E# @7 A" W3 k2 c- U, ]
首先讲一下,文心一言和文心大模型的最新进展:
% A' a/ M) L+ I, S5 ?文心一言从去年3月16日发布,到今天是一年零一个月的时间。我们的用户数突破了2亿,API日均调用量也突破了2亿,服务的客户数达到了8.5万,利用千帆平台开发的AI原生应用数超过了19万。
5 `- |+ T8 o9 w文心一言正在改变更多人的工作和生活。
. @7 j2 W0 f H! j支撑文心一言的基座模型,就是文心大模型。过去一年,它经历了从3.0版本到3.5,再到4.0版本的进化。文心4.0在理解、生成、逻辑、记忆四大能力方面,均达到了业界领军水平。
5 N3 L6 \ ] J ]( \" b( T近几个月来,文心大模型在代码生成、代码解释、代码优化等通用能力方面实现了进一步的显著提升,达到国际领先水平。
% x. Y5 H/ S) \! F" w8 _5 }, R* h- e" s今天,我们正式发布文心大模型4.0的工具版,现在,大家可以在工具版上,体验代码解释器功能,通过自然语言交互,就能实现对复杂数据和文件的处理与分析,还可以生成图表或文件,能够快速洞察数据中的特点、分析变化趋势、为后续的决策提供高效精准的支撑。4 N! F9 h) x! h& ~9 F* Z( i
文心大模型已经成为了中国最领先、应用最广泛的AI基础模型。
$ H- R+ {: F$ |不仅如此,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。
; [! v$ v) u+ w% o; S4 L m也就是说,客户原来一天调用1万次,同样成本现在可以调用100万次。媒体可能不会因为成本下降99%而兴奋。但是企业也好,开发者也好,一旦用起来,最关注的就是效果和成本。
5 ` v3 O7 g/ S. Y$ U0 \( X# p我们能在提升性能的同时,把推理成本降到1%,正是因为百度在芯片、框架、模型、应用这四层架构上有着全栈的布局,通过端到端优化,不断地把成本打下来,让更多人都可以高效、低价地用大模型来做AI应用。
9 d, t3 N3 Y# ~/ }" [; @5 v毫无疑问,大模型相关的话题,在2024年依然会很热,各类技术突破还会不断涌现。媒体也会继续热衷于用“震撼发布”“史诗级更新”这样的标题进行渲染。但我想强调的是,大模型本身并不直接创造价值,基于大模型开发出来的AI应用才能满足真实的市场需求。& V: _' h8 _4 M4 Q3 n% V" ]5 C/ s
分享开发AI原生应用的具体思路和工具:“踩了无数的坑,交了高昂学费”1 _2 G; u$ ^) ^0 [+ \; x% s, Y
今天我想跟大家分享的是一些基于大模型开发AI原生应用的具体思路和工具。这是我们百度根据过去一年的实践,踩了无数的坑,交了高昂的学费换来的。
. [1 Q, `. N* _# E" E6 a第一是MoE。未来大型的AI原生应用基本都是MoE架构,这里所说的MoE不是一般的学术概念,而是大小模型的混用,不依赖一个模型来解决所有问题。但什么时候调用小模型、什么时候调用大模型、什么时候不调用模型,这都是有技术含量的,要针对应用的不同场景做匹配。
$ r: _& G! B. p1 w* q2 H L第二是小模型。小模型推理成本低,响应速度快,在一些特定场景中,经过SFT精调后的小模型,它的使用效果可以媲美大模型。这就是我们发布Speed,Lite、Tiny三个轻量模型的原因。我们通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型效果更好,速度更快,成本更低。
6 D; w" o+ z0 ^! n L第三是智能体。智能体是当下很热的一个话题,随着智能体能力的提升,会不断催生出大量新的应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和进化。在一些复杂系统中,我们还可以让不同的智能体互动,相互协作,更高质量地完成任务。这些智能体能力,我们已经开发出来了,并且向开发者全面开放。# H5 Y7 T& r- J
在MoE、小模型、智能体这三个方向上,百度都已经给大家做好了“开箱即用”的工具。下面,我就给大家介绍三种不同的工具,分别是:智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder。
0 Q3 I4 G7 d& Z5 W/ J智能体开发工具AgentBuilder:+ T# C0 @, c3 C9 j% Y
智能体是里每个人最近、最主流的大模型使用方式9 r) d5 J! ]' K) s
首先是智能体开发工具AgentBuilder。智能体可能是未来离每个人最近、最主流的大模型使用方式,基于基础模型,智能体可以批量生成,应用在各种各样的场景。
: ?- A0 _2 ]/ V/ {6 m百度刚刚升级了文心智能体平台。截至目前,已经有3万多个智能体被创建、5万多名开发者和上万家企业入驻。我们的目标是,让每个人、每个组织都成为智能体的开发者,打造国内最完整的智能体生态。
# a2 }3 Y' z* O! d, p那如何实现这个目标呢?就是给大家提供零门槛的智能体开发工具AgentBuilder。下面我们就先以“新加坡旅游局”为例一起看看,一个智能体是如何做出来的。/ a* n% ?. {* _1 V& s# d1 k- V
首先,我们打开文心智能体平台,创建页面有着零代码、低代码两种模式,新手可以直接选择“零代码模式”,用自然语言,几句话就能创建一个智能体。# o5 _9 Y! n, {; G; J q
我们先给智能体起名叫“新加坡旅游局”,然后在设定里写明需要打造旅游方案、解答问题,提供酒店门票预订服务,这些设定都是用来指导智能体的,告诉它都能做什么。* {- S* @) O9 [% S
如果只需要基础智能体,平台会自动完成填写。但我们希望“新加坡旅游局”是一个专业的智能体,所以要进行高级配置。我可以把新加坡百科词条和官网链接都添加到知识库里,让它每天更新。然后添加一些工具,如酒店查询、景点门票购买等,增强它的服务能力。目前我们已经跟携程合作,提供了酒店、景点、票务等旅游服务工具。这样,一个新加坡旅游局的智能体就做好了,可以进一步预览、调优。
9 T. @: t) M9 |- d2 E9 \4 r* I: v现在打开百度APP,搜索“什么时候去新加坡人最少”,因为大家出去旅游都想避开人潮。智能体会综合多个来源的信息,生成一个答案,“1-3月人最少”。我们还可以点击智能体,和它进一步互动,比如去新加坡旅游的注意事项,推荐新加坡排名前三的酒店,还能让它直接预订新加坡环球影城的门票,一站式解决需求,大大节省了用户时间。, l' Z& h8 N1 w: r' T# ~
除了新加坡之外,大连、沈阳等文旅类智能体也都在文心智能体平台上线,还有知识类、创作类、学习类、娱乐类等各式各样的智能体,这些都是用AgentBuilder做出来的。
+ n* y/ ~, @& R: Q" H. a去年文心一言刚发布的时候,我就说过,文心一言会影响到每一家公司。因为它强大的自然语言理解能力、表达能力、推理能力,可以使任何一个公司都离自己的客户更近。
9 i6 L' {- S: ^$ _) Q: F3 y2 I. m今天,每一个商家、每一个客户,都能在百度拥有专属的智能体。整个过程完全不需要编程,通过类似提示词的信息输入,和简单的几步操作调优,就能迅速生成一个智能体,成为7X24小时在线的金牌业务员。
. k ^& [# F8 h3 T% u; b我们来看一下,一个商家智能体是怎么做出来的。- P0 J" `! M- Q* v2 O6 [* c
启德教育是家知名教育企业,在全国有60多家分支机构,还有很多海外分公司,覆盖国家广,对接待的话术要求很高。如何能全天24小时回复客户的咨询,并且提高接待水平、降低经营成本呢?- l3 i( y: D5 b
启德教育利用百度的AgentBuilder,打造了专属的智能体。
* v- H9 D! v4 O. o! `, q* d我们来看看,如何打造一个具备基本能力的智能体。很简单,在平台上填写智能体的头像、名称、经营业务范围和欢迎语,再设置一些需要用户提供的信息,比如年龄、学历。5分钟、零门槛,一个智能体就做好了。
% C' Z+ ^# f6 i0 k2 x" j q$ @5 M7 u启德教育还希望这个智能体是个懂业务、懂学生的留学顾问。它可以针对学生的不同情况,比如想去美国还是澳洲、是硕士还是学士、雅思和托福考了多少分等等,做出专业分析,给出精准回答。我们可以通过添加知识、角色、工具这几大模块,来打造一个更高级的智能体。
. _9 u+ U( V' o u N) N- |在知识模块中,上传私域知识,让平台实时解析,自动生成对话语料;在角色模块,把一些不在经营范围内的留学国家,增加到过滤方案中,可以提高用户线索的有效率;在工具模块,加入预约到店等服务。通过这样几步简单操作,一个拥有专业能力的启德教育智能体就做好了。- H2 `5 E, J9 D- A9 P3 V: g
现在,我们来搜索“澳洲留学申请条件”,可以看到智能体快速给出了需要的语言能力、专业选择等七大必备条件,还给能出相应的留学咨询方案,对各种难题都有问必答、有求必应。
! ^! }0 s F f2 b, ~+ b启德教育智能体非常的受欢迎,上线第一周,就成功分发了155万次,与用户交互了5.8万次,线索转化量直线增长、有效线索的转化成本明显降低,经营效率大幅提升。5 `4 t# r6 Q7 R/ \
下面,我再给大家介绍一个家居行业的智能体。
/ x+ m* E+ }' O4 [- G( x索菲亚是专注全屋定制的家居品牌。就像刚刚展示的,它也可以通过填写极其简单的信息,创建出一个基础的商家智能体。但对于家居行业,消费者的线下体验更重要,所以索菲亚希望能在线上打造出一个金牌销售,还原线下的接待体验。; d' k- h7 G ~8 V" }# A, {0 T
因此在进一步的设置中,它在角色模块,选择了数字人作为展示方式,然后给数字人选取了合适的背景和声音,并且结合平台的智能解析能力,自动总结了一套销售话术。最终打造出一位温柔亲切、话术专业的金牌销售,她能24小时满足用户的各种需求,提供高水准的服务体验。
) I3 @0 @7 j* S当百度搜索用户有装修诉求时,索菲亚智能体会利用文心大模型的能力,优先给出问题的答案。除此之外,她还会主动与客户确认具体需求,如装修类型、预算等,并推荐附近的线下门店。
- k* H( p s1 c+ @/ X9 k$ b索菲亚商家智能体上线以来,有效线索成本下降了30%。也就是说,它获得一个有效客户,如果过去的成本是100块,现在只需要70块了。$ g. h% q: V$ k/ P) {) D+ y& Y! v
目前,已有超过1万个百度的客户拥有了商家智能体,涵盖了教育培训、房产家居、机械设备、商务服务等超过30个行业。
: V2 {: ?. z3 E$ t& C上面,通过三个Demo,我展示了开发者和商家,如何利用AgentBuilder,制作不同行业智能体的过程。
! M) w6 Q% g6 ]/ b9 u' l现在,制作一个智能体,真的就是分分钟的事。但问题来了!如果没流量、没分发、找不到、没人用,那么开发者和商家就没有收益,没有收益就没有动力。怎么解决这个痛点呢?
: N, \/ a3 j# K! s) C0 x我们的文心智能体平台,为开发者们提供了流量变现的通路。除了百度搜索,百度生态的其他产品,如小度、地图、贴吧、车机等,都能接入智能体的相关能力,为开发者解决流量分发的后顾之忧,获得实打实的收益。/ n+ b& y8 x \4 ]) Y8 g4 {
有分发,就会有数据反馈;有数据反馈,飞轮转起来,智能体就能够自主迭代,越用越聪明。文心智能体平台还上线了智能体的数据分析和问答调优模块,不久后还将有更多的新能力上线。文心智能体平台将通过分发-诊断-收益的数据飞轮,驱动智能体形成质量更优、流量更好、收益更大的正循环。, \0 V& o0 h9 j6 g
AppBuilder:自然语言三步就能开发一个应用
: J8 ~5 c9 s6 v- ?6 V: r! ]9 p2 i G
5 l2 V3 J4 \3 {2 Q% z3 Q: R1 p
, ?+ X! K. L3 T2 F
# D( t' u5 Q. ^6 H; z
播放
/ D7 N& ^) ?( M/ t+ i7 e ( \; A. r/ C' t; ], K( \4 F; H
下一个
9 B7 h+ \: j0 b1 O% c% C
' n7 l# Z4 V. @7 j& |; a! ~1 B 打开循环播放
( d7 f, K+ n" V' | ! F; J4 k9 W% F" |+ G1 F
00:00
6 ]1 b3 N7 l W0 n / `1 ?% w; [' @
00:00% w' p5 L- w7 l: }8 g* I# [; o
: f2 e F+ w! j# Y" ^' M
7 @" Z X! t( {8 J3 R
8 C% ^& g1 ]. ~% |
# ]: }0 v$ A P& Q8 i; H( s 4 Z6 e4 V" z1 O) L. e5 j9 H+ X
& Q: T+ r% w _0 _9 O
8 k7 _7 x& j" h1 y0 c ; J& ^# f6 X4 a/ l, d- t5 E: S
2 U6 W9 c* i7 x8 W
% D. m$ r* Z4 p N) q( K; W: k6 {' M
7 H' T9 J# S. x8 s# X 1 m: ?2 l4 ]. u% _, d
0 _. ~% q$ h9 f% a6 r
8 ^: x' l- b; ^5 U4 l 倍速! f( ^, u- l/ S; |( Z/ C
3.0X
( W7 H: J5 J# a/ M/ m2.0X) j! M" G; Q! U7 a. a9 F
1.5X
7 t# [& E2 |% W" | |: i# }1.25X
2 a! p" w: _1 L: H: f1.0X
1 K! ]" S, f1 s6 p. D8 Z7 e$ x7 l0.75X9 O4 d3 t) k" [: Z' }" a5 ?* U
0.5X
0 p$ ~' y' K+ I9 j! f4 d( }" c# S) x5 U
2 `5 Y) z4 M1 C' I: B) {( `# D+ i 1 d" o1 d2 ]# K7 O1 h
5 I4 V5 |# A+ m$ u
语言
! P0 \$ F; m: w / t6 s7 S7 Y4 F; G Q! R8 {
) J. f$ R' T9 ~) E* I
$ c# l6 }" X, i 多音轨 S2 A' K! j0 H L! k9 n; l
' k8 O& ]! `: i* H
7 [) J& e! B+ r* H# W
, y9 U0 R! b( z% r+ S Q5 {4 K/ o AirPlay# d( @3 ^3 z5 Y- z
2 R8 E9 P$ [: I; @
09 x* [3 O9 f9 P4 l( T
# h9 B: c: @* b) s4 Y% [9 \, e
3 c! A' x0 S7 t
, l; [: q" [, i' e
) ? Z9 H( p& Y# |9 Z' z% K
$ \' a) Y l4 o& L4 Q7 c ( |" f% T8 z8 F& |7 u7 n+ @0 z
静音播放中,点击 恢复音量 . T; d. k' e- g& y2 Q: j
+ ^ U' c: h' u( a) O! i$ H+ s7 A + n8 a/ u5 k- ?) f
, Y# K0 B2 }0 _3 A. ~6 Q" }% f' |+ B 画中画
9 e* [' u# s! |" z5 Q9 x8 U9 q2 N3 S # k3 S- A) @) O' v6 W
网页全屏
3 E/ {: F, u/ z7 q1 }3 a* S$ _7 z
# a Z" q" {# f3 P, o 全屏' ]/ M9 @: N8 ?& X1 W. ]
' ~$ y7 P$ R7 p+ [" `
" K `7 R/ t3 P3 C; K: }/ r
! y* ^7 B, o8 ]2 v9 Z6 X
4 S! D- K6 ]+ Y% J- _
4 t1 B! z. c ^" L+ K( t F2 `
<img data-role="txp-ui-error-background" alt="error-background">
: }# |7 D# d5 o" W3 X
- n9 y! i* W$ P; t. @( F 你可以 刷新 试试
, E: ^" V4 e4 G' j1 a . ^9 I- U: u* t/ q2 P* b
) h; f# ?5 Z3 c9 O' n # P+ _4 G+ b" z8 k
4 @. _) h% ]& b0 ]5 g, I9 M }2 V
3 @# A' Y: r1 q" w; t3 }
+ |3 X7 W: ^* X. v$ y 视频信息
+ \% w$ `, R# T' K4 A6 g3 c1.30.104 f1 r, X) C8 @5 v. T
3 e! D9 r- n/ Q0 j8 M4 W
( y3 ~) b% |1 n4 i3 u0 a/ c
) k: ?& ~( b& t8 A9 R
* h" t! X- |( I: b& q( x 播放信息 上传日志 调试信息 [X]
+ E8 C# V! [0 h7 [5 V 视频ID) Q$ V" z! E" X9 D" r- B4 H
VID
' A8 A: \0 R: Q6 m; X- v -' N1 o5 b! a2 D# _
+ c2 x8 {/ s. G5 C
播放流水* S; O9 n( v+ b# |5 T
Flowid" N& ?. A( s! y I: P4 d
-" Q- Y! r% p; u5 Q: S4 n& i8 t
: U- b, @6 C$ Y8 e. s
播放内核
4 G0 o& `0 B1 _. k) M Kernel
, d. j$ u6 N0 C -
1 T3 h8 L8 r; i
% W4 y0 A& D" Q0 Z8 r8 s6 U. `3 R c 显示器信息0 F, ]! X1 g7 P7 a
Res) G8 u" Y5 w; {0 T, r% Y$ [$ [" d
-
4 M1 W _$ O9 `7 j$ ?- R
; c9 }+ }4 a( C6 v9 Q# X1 ] 帧数
& A$ C, O+ q4 A5 b y: n* x9 A -- g) Q9 U% c9 P) S% H1 s
$ e" m/ o4 U% {& O" G1 A3 j
缓冲健康度
0 V0 o' s+ Z7 B9 ] -
& Z, ^% @- J( n9 A0 K6 N - `. {4 N# S! H9 t. t, v$ ]
网络活动( F9 e" L' {0 O0 B
net5 ^! |* D8 n/ C7 C
-. k/ s' C4 K' y' ]2 {$ r7 M6 }
( X7 o$ [' X) T2 D) L/ ]! [7 O7 o 视频分辨率# v, b( l; X+ s E6 f8 _
-# p5 \/ ~, ?% }; J& n) M
4 m: G) J f/ a/ Z; N
编码+ T4 I% } z. W- H
Codec' ^% C- p( ~3 \% `' v+ D2 x- D
-
: \% a; s. ]% x( b0 q; ~" I' u' y$ C
! d0 C; h6 q7 S mystery
- ], r( N: I7 ]# \! X T mystery
# \/ ?- K& k- i& o -: p9 B# { z2 k/ G8 \: o
# b; g& g0 s4 _4 v
- i5 u$ I& k9 b
3 d( M* r% |( M/ }' {" _3 e, F6 {
: Y0 b7 B. [* s) k+ D 3 [# f1 @1 `7 X, P
* V1 p e% X o$ d1 Z4 G
8 A9 q" p! N3 P1 V按住画面移动小窗
/ H3 c$ P2 V2 o0 U) U3 M) A/ [. x8 C3 p! |
a& u" B, v3 n# P1 Z* h# g" u3 q8 ^# {# ^# L% M* z
, e0 ~; G1 _* t m' p" Y7 P; N! q9 ^4 r. y
李彦宏公布百度AppBuilder:现场做漫画《周处除三害》
9 B1 V2 D! d; }/ t3 A
1 H/ u$ j& R t1 i下面,我给大家介绍第二个开发工具,AppBuilder。它是AI原生应用开发工具。在AppBuilder上面,我们提前封装和预置了开发AI原生应用所需的各种组件和框架,大幅降低开发门槛。
t+ j- _' P( r& A$ P最快只需三步,开发者就可以用自然语言开发出一个AI原生应用,并且能够便捷地发布、集成到各种各样的业务环境中。我们来看几个案例:
- A: Y4 D% Y, Q& K# p# {今年年初,我们搞过一期AI原生应用开发挑战赛,赛题是利用AppBuilder打造一款“游乐场排队规划助手”,帮助游客更好地了解游乐场排队情况,设计个性化的游玩路线。
1 |# I! @) ~+ c8 M" d这期比赛的冠军选手,没写一行代码,就开发出了应用,拿到了百度提供的10万元大奖。这个题目如果会写代码的话,你写一个并不难,但是你一行代码都不写还能做出来,那还是非常依赖基础模型和AppBuilder这个工具的能力的。
" q% r; ~$ E% {& L% R我们来看下,怎么用AppBuilder,把这个AI应用做出来。
; Z/ |; T/ E' i$ `, a我们先回顾一下赛题。它假定了“环球影城”各个项目的排队时间和刺激指数,那么在有限的时间内获得刺激指数最高的体验,就是这期赛题要解决的问题。$ {; P1 [$ |, f; F) T9 g
首先,打开AppBuilder的开发界面,给应用起名“游乐场排队助手”;第二步,我们在角色指令中描述具体要求,包括调用代码解释器、算出在固定时间内的最佳组合、输出结果等;第三步就是到工具组件中,把代码解释器添加进来,帮助运算。: e. G8 _2 |+ z' O5 @1 j4 @
现在,我们来测下效果,在右侧输入问题“我有3个半小时时间,怎么玩最刺激?”,可以看到,代码解释器将这个问题翻译成了代码,再调用数据理解工具,对已知条件进行分析。经过一系列计算,得出将《哈利波特禁忌之旅》、《侏罗纪大冒险》、《霸天虎过山车》、《大黄蜂回旋机》,这四个项目组合游玩,效果最佳。测试没问题,点击发布,在零代码的情况下,一个应用就生成了。
4 v1 ?! j9 f/ B, ] d4 |5 g现在,AppBuilder又进一步升级了,在创建的过程中,全部可以通过“AI优化配置”功能,自动帮助开发者优化角色指令、组件配置等环节,进一步提高开发效率。
: O- M+ R3 q* |6 |我们再看一个例子。
+ m2 r- v t @; Z) g今年年初,华北电力大学提出,希望为全校师生提供智能化的专属服务。基于百度的AppBuilder,我们共同打造了一个华电AI助理,下面,我来给大家展示一下,华电AI助理是怎么做出来的:+ o' \- p3 U/ o6 V) g( Y" L/ t+ ?
第一步:打开AppBuilder,进入创建页面,点击AI自动生成配置。首先为应用设置名称、简介、头像等基本信息。- T; R5 A8 j6 O6 B& X4 m
第二步:通过自然语言在角色指令中描述具体要求,包括任务、组件能力、要求与限制。
3 o1 C& B, W, e; y/ n第三步:插入自定义的图书借阅查询、课表查询、学生成绩查询等组件,让校园助手能够具备智能化服务的能力。之后再为校园助手添加一个开场白,这样应用就配置好了。
- n1 }* }/ G3 K, B% S- v4 I# G接下来,我们在预览界面中,结合用户提问,对助手进行调试。比如询问四六级考试的报名时间,测试各组件自动调用的效果。! W. T, g& }, \5 Z( `( c& u0 k
大家可以看到,通过这些简单的操作,这个应用就构建完成了。目前已经小规模测试上线,接入了查制度、查课程,充饭卡、借书籍等高频场景,服务了学校广大师生。后续,我们将与华北电力大学一起,进一步深化应用合作,提供更为丰富便捷的服务。, R7 H0 C% ~( N) T# Y
百度在跨模态方面,也有着多年技术积累。在AppBuilder上面,我们也提供了一定的跨模态能力,你只需要给一段文字,或者几句话,就可以快速创建绘画类的应用,像漫画、儿童画本等。
Z: I2 B6 E I) X2 I- ?% V过程也很简单:打开AppBuilder,点击进入“应用创建”,输入角色指令,选择“添加文生图”组件,再输入三个推荐问题,就可以点击发布了。应用做好后,我们只需要输入一个大概想要的角色或剧情,AppBuilder就可以自动生成故事、输出图画。4 | j6 j" H5 x J
百度文库最新推出的智能漫画和画本生成功能,就利用了AppBuilder上提供的这类组件。我们来看看,百度文库的漫画生成功能,是如何让每一个有创想的人,都能做出好作品的。
) F9 J/ e5 X3 l, E; l7 @2 ^咱们以经典的《周处除三害》为例。4 B( D! b$ G. Q
打开百度文库,输入主题《周处除三害》,这在《晋书》和《世说新语》里都有写到,文库搜索后,会根据原文生成故事,我们也可以再对故事内容进行修改;然后点击右侧的AI工具栏,开始创建这篇漫画。; l1 l) ~( n9 q9 _
进入漫画制作界面,文库将根据故事情节为我们自动生成漫画分镜;然后从光影、写实、卡通等多种风格中,选择最贴合故事的漫画风格;最后根据角色选择不同的人物形象,这样就完成了漫画的生成。
& T _$ Y! Y$ @% N j4 e漫画生成后,我们可以在百度文库的智能漫画编辑器里,浏览完整的漫画。同时,文库支持对每一个画面进行编辑、修改和精调,比如,在左侧选中画面“周处与白额虎”,点击编辑,增加画面描述“人物面容清晰,画面明亮”,就能精调出更符合需求的漫画。大家看到,百度文库的漫画功能在角色和场景的风格一致性方面,都做得非常出色。+ a! B& V0 w6 S8 F
百度文库的智能漫画能力,极大地提高了创作漫画的效率,降低了漫画创作的成本和门槛,可以让更多有想法、有创意的人实现自己的漫画创作梦。7 \+ Q% \$ Y- A5 j( E) s1 k& @; c
不止生成漫画,百度文库现在还可以帮助用户零门槛的创作画本。大家可能不知道,中国小孩一年的人均绘本阅读量只有10本,而欧美国家是50本左右。现在,AI能够让完全没有绘画能力的父母,也可以为自己的孩子创作一个专属的儿童画本了。下面我们就来看一下这个图文并茂的有声画本吧!
( L- R# E& h% ]) M) G- c2 Q; n8 {$ f从去年开始,我们用AI重构了百度文库,使它成为用户“内容生产的起点”。如今,在AppBuilder的支持下,百度文库新推出的智能漫画和智能画本功能,更是把场景延伸到了更加有趣的跨模态创作领域。
0 f3 [4 z- z9 N7 }' `刚才我用三个案例,展示了如何用百度的AppBuilder,做出AI原生应用。大家应该能够感受到AppBuilder的两个明显优势:8 u; p3 j( I& O. Q$ x# w$ ^
一是功能强大。依托文心4.0对指令的理解和遵循能力,我们的AppBuilder,能保证冷启动就能达到一个不错的水平,不会因为效果差,再花很长时间去调优,大大降低了开发门槛。依托检索增强技术RAG,在知识问答等典型场景,我们的问答准确率和友好回复程度都达到了95%以上,大幅超越其他同类产品。AppBuilder还提供丰富完整的组件工具,包括百度搜索等基于百度多年技术积累的AI能力组件、大模型能力组件,还有百度独家开放的业务组件等55个组件。以及一些主流场景的第三方API,比如航班查询、论文查询等。我们还刚刚支持了自定义组件,客户可以直接对接自己专有的任何工具和数据。这些丰富的组件,共同支撑起了AI原生应用的高效开发。
- c% `2 ` j- f# @/ w二是简单易用。使用AppBuilder,只需三步即可快速创建应用、一键分发。我们也支持开源的SDK,方便大家进行二次开发。
' ~& G- V1 y7 U6 ]8 Q模型定制工具ModelBuilder:高效低价生产模型
% b2 \: f) l. c1 `; I下面我再介绍一下更适合专业开发者使用的工具,那就是ModelBuilder,它可以根据开发者的需求定制任意尺寸的模型,并根据细分场景对模型进一步精调SFT,这样就能达到更好的效果。对开发者来说,用好大模型很重要的一件事儿,就是掌握模型精调的方法。
( |1 `. H$ B9 ?我们以教育行业的作文批改场景来举例。因为作文批改有明确的评分标准,并且不同年级对作文的要求和打分标准,也是不同的。这就需要模型精调,让大模型输出的结果,更符合特定的要求。( s! A7 g. h9 `1 Z& o$ k7 k) Y
我们就来看一下,ModelBuilder是如何实现作文批改的模型精调的。
, N" `5 ]# ~) H6 L$ B第一步:创建数据集。模型精调的效果很大程度依赖我们的数据质量。在这个案例中,原始数据只有180条,质量也不够高。我们就需要用到三个功能:数据清洗、数据标注和数据增强。数据清洗,可以快速去除数据的空缺、乱码等问题。数据标注方面,我们对作文增加了更多维度,比如内容深度、写作手法等评价。数据增强功能,可以生成同类但不重复的数据,进行数据扩充。扩充后,ModelBuilder给我们生成了920条高质量数据。7 V3 u, j4 g7 ~, h6 Q+ z( n, {
第二步,就进入模型精调阶段了。首先,我们需要选择一个进行精调的基础模型,这里我们选择了ERNIE Speed作为基础模型。然后,我们根据平台推荐值来配置参数,这次数据接近1000条,按照推荐的迭代轮次,配置为10轮,然后就可以让模型开始训练了。
; q5 q1 u! ]* I第三步:把模型部署在平台上,这样整个精调过程就完成了。
1 ]* O0 M# T4 q' s* I' w" F5 g6 J6 E我们来用一篇中学作文,测试下精调后的模型效果。作文题目是《期待长大》,题材不限,不少于800字。
1 v( ?' X% Z2 |; o我们将一篇学生的作文及批改格式要求,输入到精调前后的两个模型里。来看下,两个模型及老师点评三者的对比。可以看到,精调后的大模型拥有了更加专业的老师点评思维、更好地做了格式遵循。原本老师需要较长时间才能完成的作文批改任务,现在借助大模型,几秒钟就可以快速完成,大大地提升了给学生反馈的速度和效率。目前,这一类精调后的模型,已经在多个教育行业的头部企业中应用起来了。
) r. a, e* y7 B6 w我前面谈到大型AI原生应用一般都是MoE。那么,该如何组合使用这些模型,获得性价比呢?下面,我就用小度来展示一个MoE模型路由的案例。我们首先来看看,有了大模型的加持,小度是不是变得更聪明了:" v& R. k4 ?* H0 \* ~8 s% H9 I, N
Robin:小度小度
' b/ J* r" G+ Q: {- b9 E; k小度:在呢( G( W! n6 j* ?( b |
Robin:今天有什么新闻?
" W3 b8 e/ }, e c* ?: _3 S小度:小度播3-5条当日新闻快讯
+ |# ]: m* u8 |7 s# u* MRobin:小度小度。听说你最近长本事了?
3 I( _% t( z1 r3 ?小度:我不单能陪你聊天,还能做你的AI日程助手 T. [7 p/ R, ]
Robin:那我要来考考你了。帮我安排一下日程,今天活动结束后,我会和张总一起用晚餐,之后在酒店有个管理层的会议,大概需要1个半小时,希望10点之前可以结束。明早我准备晨跑,看看天气如何,然后上午8点有个早会,请帮我安排好日程。
8 Z" F, @, a7 o7 s9 w F小度:根据您需求,小度给您制定最优的日程安排如下
3 J$ k8 j3 ~ q( }o 您与张总晚餐安排在18:00-19:30,结束后,您将在20:00参加管理层会议,21:30左右结束
4 b1 {7 M+ K5 ^$ Ro 明早6点闹钟将提醒您起床去晨跑,跑步时长控制在1个小时以内,确保明早8点早会不迟到
& W& h6 t: ]4 Po 明早天气晴朗,气温25度,建议您穿短袖外出,做好防晒! S" D9 V0 ^) N# ^; X
o 您看我能不能当你的秘书,我还有更多新技能呢
: E/ [3 D% g2 W; {7 m4 qRobin:挺好的,很棒(向小度竖起大拇指),把这些日程同步到我的手机上吧。7 `- s& |0 {/ M/ S. ^& k
刚刚,我向小度提出了好几个问题,其中既有简单的新闻问询,也有复杂的日程安排需求。看起来是跟同一个小度在交流,其实背后调用了不同的模型。当它接受到我的问题后,先是由小模型ERNIE Tiny执行了“模型路由”的工作;对于天气问题,它根据天气查询的结果,调用基于ERNIE Lite打造的精调模型,也是经过SFT的ERNIE Lite,给出了穿衣建议;对于更复杂的日程安排,则调用了性能最好的大模型——文心4.0,来计算出从今晚到明早的各项事项安排。) J V6 ^, ^( o; ~' Q; x/ Y
今天,我们提给小度的每个问题,都会这样分配给不同模型来执行,调用应用的API接口时,会用ERNIE Functions模型,给孩子讲题时,用文心大模型3.5或4.0,智能助理的打造则用了ERNIE Character模型,提高人设一致性、激发用户聊天欲望。' _) K$ z" p" p; \# ^9 `3 I
通过这种大小模型的组合调度方式,小度不仅顺利完成了“换脑行动”,装上了全新的AI原生操作系统DuerOS X,而且形成了效果、速度和成本的组合,相比全部使用文心大模型的旗舰版,让响应速度提升2倍,成本下降了99%。刚才和我对话的这个小度添添AI平板机器人,昨天已经在各大平台全面开售,有兴趣的朋友们可以即刻下单体验了。
) u; H L2 s1 \6 ?这几个关于ModelBuilder的例子,展示的是百度高效低价生产模型的能力。因为有了基础模型文心4.0,我们可以根据需要,兼顾效果、响应速度、推理成本等各种考虑,裁剪出适合各种场景的更小尺寸模型,并且支持精调和post pretrain。这样通过降维裁剪出来的模型,比直接拿开源调出来的模型,同等尺寸下,效果明显更好,同等效果下,成本明显更低。大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。所以开源模型会越来越落后。; V- k/ U# y! v1 D* { B( `9 s
为了方便大家快速上手,ModelBuilder预置了大模型。包括了ERNIE3.5和ERNIE4.0,这是旗舰版的大模型,它适合通用的复杂场景,能力强大;还有三个轻量级的大模型, ERNIE Speed、Lite、Tiny;另外还有两个垂直场景的模型,ERNIE Character适合角色扮演;ERNIE Functions适合对话或问答场景中的外部工具使用和业务函数调用。当然ModelBuilder也支持国内外第三方主流模型,总数量达到77个。
9 f7 h7 `& ^5 j- q# \- q第二届“文心杯”创业大赛正式启动:设5000万元特别大奖
( E B; Y) O) G' j$ F4 |5 S对于开发者,我们除了提供这些开发工具,还提供资金和资源方面的支持。7 [1 f: M/ q2 N0 q
去年5月份,百度启动了“文心杯”创业大赛,希望推动大模型生态繁荣,打造更有活力的生态系统,帮助创业者、开发者开发各种AI原生应用。第一届“文心杯”创业大赛,我们收到了近1000支创业团队报名,百度为其中的15支优胜团队,提供了近亿元的投资支持,并且在技术、团队和资源上持续提供全方位扶持。8 {; ]3 I2 e3 V U0 J8 f
今天我宣布,第二届“文心杯”创业大赛正式启动。这次我们将扩大项目筛选范围、设置分赛场,面向全球市场及高校学子,招募创业创新团队,只要你的创业方向是AI原生应用,都可以在大赛官网报名参赛。同时,我们也加大了对创业者的支持力度,提供更充足的投资资金、更丰富的业务资源,还首次设立了“特别大奖”,特别优秀的项目将有机会获得最高5000万人民币的现金和资源支持。
* J) b: X9 W' M0 j" X; |% `中国的创业者和开发者,非常善于利用新技术来开发应用。我相信,文心大模型将成为中国AI创业者和开发者的首选,越来越多的应用会建立在文心大模型之上。我也期待,更多创业者和开发者加入我们,一起构建繁荣的AI生态。) t; d/ z2 [" l* i2 `* |- a# _
视觉大模型最大的应用场景是自动驾驶0 ^7 z* K$ K/ F- p) {
前面我们谈到的这些工具和案例,大部分都是基于大语言模型的。面向未来,我认为多模态大模型,或者说文字、图片、语音、视频等多模态的融合,是基础模型非常重要的长期发展方向,是通往AGI的必经之路。百度在这些领域有着长期投入,并将及时更新技术进展。
2 j' G$ q6 k( T: F我有一个非常不一样的判断:视觉大模型最大的应用场景是自动驾驶。百度是自动驾驶的领导者,我们不只训练AI如何生成视频,更训练AI理解真实世界发生的事情并预测未来。
! @9 u% O% }/ _基于超过1亿公里的、中国复杂城市道路测试里程数据,百度训练出来了Apollo视觉感知大模型。它具备检测、跟踪、理解、建图四大基础能力。这让百度拥有了更智能、适应性更强、更安全的自动驾驶方案。
7 p$ Z2 N1 C0 n% T- y" L百度地图也率先将视觉感知大模型应用到了制图领域。现在,车道级地图数据,已经上线全国360座城市。只要百度地图导航能去的地方,智驾就都能开。( ~/ r* f `" u: Y5 ?
今年春节后,百度的萝卜快跑实现了万里长江“第一跨”, 我们把服务从长江的北岸延伸到了南岸,在武汉的部分区域,我们已经实现了7X24小时的全天候运营,还计划年内在武汉部署1000台无人驾驶车辆。
0 g! u/ q6 ?# z6 @! ^0 w2 F1 ~这是自动驾驶走向真正商业化的一个标志性事件,它不再仅仅是区域性的示范,而是进入到了城市级应用示范的新阶段。萝卜快跑在武汉覆盖了3000多平方公里、770万人口。; T- j" x' j9 j2 h! t
“打包带走,随取随用”
: d" r& ^* H0 X( \, E2 d刚才,我给大家展示了百度文心大模型系列,以及三个开发工具——AgentBuilder、AppBuilder、ModelBuilder,他们组成了一个工具箱,你们可以马上打包带走,随取随用。* b% x$ v1 g: }; y0 a
此时此刻,我站在这里,其实也是一个开发者、一个创业者,跟大家一样兴奋。今天的中国,有10亿互联网用户,有基础大模型,有足够多的AI应用场景,有全球最完备的产业体系,国家也在大力鼓励和支持“人工智能+”行动,每一个人,每一家企业,只需要充分利用这些工具,就可以释放无限的创造力和生产力。; B- H: t5 d7 [4 ~$ ?. [
今天,人人都可以成为开发者。而未来,也必将是一个由开发者一起创造出来的未来!3 J- U( z$ F. Z: r7 E$ e1 ?/ Q
谢谢大家! |