腾讯新闻《一线》刘雨点 ~, O- l4 n0 }$ r/ S. A4 \5 R
, t8 I9 L8 k( z4 v0 r. w% o
3 [7 i9 K$ D$ h
" N1 i/ U h" d" K! p ?8 L! i8 Y+ A: V
播放
~+ G; L/ r9 r0 O
' L) J) h2 N3 [# T' r: d 下一个
( F- D1 w: c4 i5 L- D# ~, z# B & j' u( n: Y$ b& F) ?
打开循环播放
4 {# E) [3 }! S- H2 E3 p4 R0 O+ r
8 g, j$ @& { m- m6 [, _ 00:03# b5 b1 z6 C* X
/' s. v, ^7 U+ w5 F) V* M5 n; ]
01:420 ~2 z: T: f" C# D6 F1 M' f
\# I5 Z8 L6 E! s" l
5 x2 L; q: ]2 |4 M3 J l% O , g8 W, ^" w3 @, W6 G$ S
0 K) L- h3 }0 m& n/ a" f, }; O. A ! @3 a+ C9 K# T( y9 i* J! P
1 u) [& c/ a3 [6 d/ J; t 5 S+ E" z8 ?9 R1 M
4 k7 y1 x, V2 F8 w8 v" f8 _& t& B
1 }6 L( w% `" L
2 r5 \0 t* t9 j
+ T1 T; s" J' S4 ]1 E4 E 720P
3 h" t; e" I5 }7 U5 k% F 1080P 高清SDR2 P& F5 G% h) \+ E9 \
5 H$ O- [; o* r. F' y+ D) x, D) C2 L- p
720P 准高清
3 `, ~, A! z7 l3 @% I$ y+ X, B, J' o# a h' ^+ O8 v
9 w8 ~3 w- a/ U' n" b2 ]( h6 N480P 标清2 K4 p5 g! E' `# [
9 D% n$ {$ e& j/ F% p, Y
) B, S0 p6 q- R) z. ~. T
3 a9 k% Z% Y; a5 B9 _4 O2 ?6 W * A* d. }2 k& T8 D$ k1 w5 Y
; O) o4 _" Z7 ^9 t 倍速
8 z$ a5 e. v& o$ v1 _ 3.0X
' K# n/ o# a/ X+ C) d2.0X
6 K, A) n, E) f% E; B( ]$ n1.5X
' w- P8 c: u/ s2 J! v1.25X, x% {6 r0 W3 W
1.0X% V5 u! o. R% K0 H% M% f
0.75X9 J# T- N0 x+ e- C
0.5X
6 }/ g8 j$ e( T6 o e9 \1 z
: y) U- b* p- `0 X $ S2 k3 O- q# T Q" T+ R8 y" w
& |( q1 `/ p5 m U1 p
语言- k- U+ d: i+ R/ P
0 r" j5 u, m% p" y0 |0 t
# F9 Z* ~+ z1 F9 w* H
9 z/ [( x) i' C: G p& E
多音轨
6 k4 W' g2 X% ]# q$ m: b% l
2 {4 x" X$ Q: o' {0 H3 T& H+ S0 m
9 w3 o0 H4 o% R4 c ' p7 B$ F3 o8 g f/ X2 p! ?
AirPlay
' e4 O% i' o1 i7 E: S# {
1 l G7 _6 C) \# \7 g 0
0 K! J5 A0 l7 d% J" O8 P 3 i# T {2 b3 E' }5 z8 r
' s" w" [$ ?3 o5 h
: F }" r& ]) ?+ _$ q+ z X) T
# _5 V+ o, h1 J. l7 D 8 P: E! [* M+ F v& W7 ?
- Z0 i2 l8 {5 ?8 g: E8 A 静音播放中,点击 恢复音量 ( B$ e% E4 T" S; a9 \1 P
: M2 I U! x0 [( I' m. _
" M) @. Y6 D: L7 D ]5 d5 @ ! v, @0 V- _: y' S1 I8 [2 L; b
画中画
- h' g Z6 u" S: o / ~. C' i. f& F4 ~5 U, b/ i5 w1 E
网页全屏5 q1 O! p% ]. r
4 J) M2 C7 q! m: t7 b1 t! ] 全屏
$ L- t* i5 Z) O5 m$ d1 t8 E
7 m6 O* x0 Z- p* ?. r! I! M % { Z9 c9 o7 J7 a
" J+ C2 Z1 j: a6 u9 c9 N6 D8 B
0 W& J2 I" a4 F3 z: Q* A! B
% g2 I( e' r5 B4 K% M4 d0 \
<img data-role="txp-ui-error-background" alt="error-background"> ; e/ n ^% R$ ?! f7 ^0 H. j
+ \! R, ~- M0 ]- N% U( t. ] 你可以 刷新 试试
8 X% Q3 w. S+ m, ~3 l
7 |( C! Q' K3 ^ k/ C% h U4 n' K: A# J8 G
$ c% }# x) m) @. c1 e/ r' Z0 ~- Z
. l! z' B F. f; a
$ `3 z, N) E0 @& O- d
+ T8 Z* ] W0 w( f: `1 Q 视频信息
* V- H& h8 M1 r! \! @5 G1.30.10
* G; o/ `: n( f3 Z8 u 9 I8 K6 @) w1 S4 ~# g& u8 I2 h
# R ?2 `; d& \2 Y' p1 g% h/ u8 }
0 m1 [9 x, v" f6 I3 H4 n
+ Y& D8 u Y0 T( J 播放信息 上传日志 调试信息 [X]
4 K0 U3 t- H+ U- p n2 ? 视频ID
# a; m3 U$ e5 S6 N VID: M0 p6 C5 M0 E) C( Q
a14838f3r9w
: H/ H: E: u& k0 K6 {& R! u5 s
6 H7 h- h5 ?1 W5 B1 q. J$ {- J( M 播放流水2 c0 O$ f$ p- z0 }9 t/ M4 o; O
Flowid M* d) z& R# [$ P
b5cca56a7c1a40abb74bb44ba74753f0
0 [+ u( ^) C6 k6 \ 2 X$ \) Y) _. F% ~5 n
播放内核
" u& |5 W2 e. C" G$ T2 m Kernel: y/ Y* w! W; g$ r: v$ Y# ]
m3u8/hls.js (1.30.10-p2p-1.5.25)
+ l0 S% c: H* _! }, [ ( w5 [2 S% ^, q; O1 B0 O* h
显示器信息$ |+ U0 f" \( i2 L: `6 f
Res
$ k8 q% @. }" H. I* D -
+ j* l6 \2 s9 ?, G
6 [' X4 [7 b. u x4 z 帧数
+ W( w; z9 r2 e0 g9 L 1/98; 1.02%+ g! n1 p9 o, _ z5 a+ H
2 M/ F' r$ d n! q* x 缓冲健康度* p. m4 i3 p2 J- }! M8 C. v8 N
15.48s
w/ R+ X4 Y" u" B8 l 2 M' [) I: ^6 Y( w
网络活动0 c x' x$ G4 q2 R
net
5 r1 e. C+ i! c% _ ]0 c' e4 k 0 KB/s 0.00/0.00/0.00/0/2/1/0/0/ {, Y; a/ O1 T7 _( X
% Q! H: L7 ?$ I# e9 P
视频分辨率0 J# d; t( T7 m0 {- J+ F
720*960
/ G2 Z- \2 m) s0 D( f& U
4 E- G: J# p) A3 L, G 编码- m5 K: g; V7 @3 e! U. l2 N
Codec
* u& x# U& A% I8 E. e# y hvc1.1.6.L120.90 / mp4a.40.5 (T265)
" V& w4 H A3 f8 f% w
1 l# v+ M/ A A% C6 ^ mystery1 @/ H, V. {# D5 ^" [* p; d
mystery
4 K( s' [1 C' U- T+ ?6 n br:0.105-19.328 t:3.84 pg:1 s:cy->pg->pe->pg->pe0 O+ ^7 n" V3 N1 B
6 ~5 T3 c# e( j) b
$ X1 L3 _6 F$ k1 N & }/ n- Q3 z6 p2 |* @
/ S9 g% H' s4 p: _8 } 6 h) j, a( s: a' [7 [* I0 w* b B
' R" R$ s+ c A: p% J
& o9 t1 ?0 j* B# i 广告被拦截插件误伤啦, 1 秒后播放 关闭拦截插件恢复正常 暂不支持打开,请用微信扫码浏览
$ @7 _# E1 L7 Z) H2 r9 M
. X; ?% u; j( P2 \3 K' U <img data-role="creative-player-video-active-normal-video-detail-item-img">
: i: P/ ~6 N" l 微信扫码查看更多 9 a5 E4 b8 P5 b' a$ S& b
无法关闭广告……继续争取广告权益…… 我知道了! 意见反馈
0 e; n3 N# h0 \$ i& v
) G) q9 w8 {3 N* ] j按住画面移动小窗/ G# q5 ]5 H$ \: Z0 j0 j
$ y; G# d" `! f5 M5 w9 a) ] C) l
$ Z* h8 z* F( U. ` ~0 i" e" L- z# U v5 G
r" C! ? N2 ~' p& Q6 Z5 t李彦宏:未来做APP,就跟拍短视频一样简单人人都是开发者) c) ?6 `+ t. _. c' t
& t1 ~$ k" V; S" a; Q9 ~$ v
“未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。”4月16日,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上发表“人人都是开发者”的主题演讲,他指出,“AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。”
7 \; Y& ^0 A: Y' Z$ C/ n& @; }他表示,百度作为一家技术公司,定位是尽可能为大家提供所需的开发工具,提升社会创造力,这包括了1个基础模型系列和三大AI开发工具,它们组成了工具箱。
/ k5 ~& T2 `! O2 j: G/ ^* r以下是李彦宏《人人都是开发者》主题演讲实录:
+ T) ^" l' p% x3 e你只要会说话,就可以成为一名开发者
2 @& g9 G- ?9 o, k7 Q l; x大家好,欢迎参加Create 2024百度AI开发者大会,这是Create大会首次在粤港澳大湾区举办。今天现场来了5000多位开发者和科技爱好者。过去这一年,我跟很多创业者、开发者交流,感觉大家都处在一种“FOMO”状态,也就是Fear of Missing Out,既兴奋、又害怕错过。确实,大模型和生成式AI,将彻底改变开发者这个群体。) D8 c" x( V! l% j; O; P+ C# n0 m
过去,开发者用代码改变世界;未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。/ b( W! O0 E% L- U
这一天并不遥远,我们看到,因为有了基础大模型,有了很多低门槛,甚至零门槛的开发工具,开发者的生产力大大提高了。
& f: }6 b( }: V5 q比如,基于文心大模型的智能代码助手Comate,不仅支持100多种语言和所有主流IDE平台,可以推荐代码、生成代码注释、查找代码缺陷、给出优化方案,还可以深度解读代码库、关联私域知识生成新的代码。上岗一年多,Comate已经走入了喜马拉雅、三菱电梯、软通动力等上万家企业,生成的代码采纳率达到了46%,百度每天新增的代码中,已经有27%是由Comate生成的。" U6 ` l" Y8 j& G( C! x
今天,你不会写代码,也可以做出一个AI应用;不用编程,也可以做出一个智能体。AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。
6 X# ~% A# E0 @. z9 ^作为一家技术公司,百度的角色定位,就是尽可能地为大家提供所需的开发工具,不断提升整个社会的创造力。具体来说,我们提供1个基础模型系列,就是文心大模型系列,这包括旗舰版的ERNIE3.5, ERNIE4.0, 也包括轻量版的ERNIE Speed、Lite、Tiny等等。
& H* y g1 R+ T/ g* j9 V我们还提供基于大模型来开发各种应用的工具,包括智能体开发工具AgentBuilder,AI原生应用开发工具AppBuilder,以及各种尺寸的模型定制工具ModelBuilder。这三个工具,都代表了先进生产力。下面,我会给大家一一展示。, B1 w; v; }: D( Z" c9 ]: m
文心一言用户超2亿,文心大模型4.0工具版发布
1 n( I! _# m' S4 U) h5 _+ R" I& ?& d% [) `
+ H( R* Y& O; N: P5 C. f) t
% \' O7 a, T' `6 n |7 L1 y- K
7 _% o! V n8 Q$ p
播放" f5 @7 j( b7 H* K. ? s: G$ Z
, ~+ i0 L& Z# _3 Q, Q8 [ 下一个
0 Q9 b) M$ j) z3 c( I; B. g+ L
3 N i$ Y! K: d8 v 打开循环播放5 B8 v1 z) J: ~5 X) O, J! K, M; p
: n% C9 e2 p1 ` 00:00) p* m* ~! ]. T: K
/8 s s" H/ r4 ~. Q5 x; b: P% L
00:003 d' Y8 p) K# C! G& f: U
6 X) G% I" v3 ^+ J7 w6 Y: d
# P+ c/ W* N6 p3 \3 G% j " F K1 O) `& n3 o
: N" ?' \( Y2 R0 k' F
! g n6 E( D) k1 s( \
* D6 u- X! d% B# d& ], K- L8 m
# U( |% d" D/ O5 _0 o4 Z 2 G9 a. s4 Q4 c) h
$ a" q4 a) m( J6 |
7 x; g' Y' p; ?% n4 l) c 5 A* A4 v3 b: ]8 v2 U
7 Y2 c4 Z* r- U/ ?
( g6 L! `4 x3 m; z: _
' k2 s2 v9 ]5 ^ n* p l 0 s8 _0 y E4 U. k6 V
倍速
9 T1 M% _6 ^( W; l 3.0X
) z& k6 t, I6 S, D# L0 h2.0X
! G6 n$ V1 Z( @ `% S, k1.5X
2 F, R% q! H2 z& v1.25X: R2 q% G) ~! z+ k( j
1.0X% f& m* _1 A8 @4 J
0.75X1 Q) r: a( _8 X# C1 C9 l3 `. v
0.5X7 p }& W9 N+ [& K* f- q2 g8 x# _
6 X& `% s$ B% S2 Z& }7 k% C; ^8 A " Q/ i4 L, O7 X X0 q6 p# D
5 f* d1 x: f3 { 语言; g' K9 j3 M! w- I0 P
" D7 q" p# X; ^" W: t; p. f' T
$ m# y' T' ~. ~8 A5 C
9 ^# M# T3 D6 o9 r; l( q1 @: ?
多音轨$ x3 t t' K; s$ W4 U" b
. `2 e. W& ?& N
$ _' ^4 O+ t% D' Z, W
7 {, F; w% [3 W2 t6 l5 b/ f9 C | AirPlay/ t/ E3 k4 z$ w8 k
% A2 S0 w* ~2 b/ c) v 0+ g# d4 K# y: R4 G) i
; \4 j' J/ H, d* ~9 r% S) _
! m) ]( Q/ a" T, v- e
& A4 ~( |3 _$ Z9 D
( w b$ d6 k$ \
. I2 V$ @9 c- o& N* C $ d& L4 J5 W L N4 B
静音播放中,点击 恢复音量 ' _' D% l* L$ m. w f+ L/ i# M
$ U5 }3 {# r5 ^. D
. |9 Q( q" W- I9 a ! U% M1 _1 ^# f! n6 |, g5 f8 [9 X
画中画
0 F1 R; Y% v7 t5 y" A+ ]. w : s3 C6 }1 N% Q" U' w
网页全屏
8 c- _4 g! c: A* m4 ^5 N ' S, R( i+ `' b0 L, z
全屏
6 F" c( ]7 w# I1 Y+ S9 P 2 u; L) {" ^8 A' u2 y2 k& b; c
& E: x: F# a4 G; X+ h: z, v) p
- y/ J5 {# [2 Y
2 t9 q: r! B9 B8 j: T0 i
; [9 Q* a2 K' x3 }) O+ U4 h2 r <img data-role="txp-ui-error-background" alt="error-background">
: B3 n! E1 a9 x( w% V. r
1 x( k5 q5 m9 Y: a% F# s 你可以 刷新 试试
( i$ L) K, \- t" ]4 u' y% K8 D ' s# t# L3 y% \9 S0 v' }
4 n- o0 F2 h" S7 U / u& p1 ?" c; O+ `7 p1 ~
q p1 N# y! F4 _9 i" ?
+ F& X: d6 S2 k! K2 ~) D( X& q5 G! r8 v4 u; ~ T' u* f4 I
视频信息
6 h4 t6 o& R& t. A% _) W- j1.30.10
- Y. ]( C$ \2 ~, o
0 A* _: Z! P$ f1 k) ^
$ f( |" e; [; F- A& G& L, i3 r/ @ * j: s( E O; n
7 R& ]/ U; L+ |$ z- N 播放信息 上传日志 调试信息 [X] , x3 K. |5 p' a* M# [6 k
视频ID
/ E* ^9 i' X! ~% Y1 e* T, [6 y VID' C9 P: W" c% s8 g" V
-: r0 g" u% p! L% o; ?
6 r9 J, W6 i* r4 s7 q0 R' l 播放流水" z O$ H! o- @# ]$ J
Flowid
5 Q* x& p+ l5 Z& N0 Q% D -
7 i* V/ l/ K; V, U# @) G# e
; E8 A0 }! ?; c3 A; I+ o 播放内核
' N4 u5 {: M0 O0 U) e% |$ r Kernel
0 y: H$ W# U. \ -
/ D& K5 {" l0 a: x4 y# R & ^) r( G8 c- L$ z- @5 Q) ~
显示器信息% J' s: Q. ^! Q% o$ y
Res& h: S$ H- d' i; r+ o
-
( B8 I! \6 \8 S& E9 Z& R' p0 E
; j8 J6 ]( b; ~6 I5 ~2 t: } 帧数( {$ c8 q! K: O( ~; R. C
-
* y# p) c$ m+ i9 W# w, E$ `
$ W# y, I8 n$ s& H 缓冲健康度; Y; q' E: q9 j9 G. W# E
-
8 Z z" j" f/ d7 i % j% Q f2 m2 A* M' W. ~
网络活动
s1 u% Y' D0 G S net
: j! z2 l0 L* c) n -% T( p, V6 z7 I$ x0 S
: ~# B" o6 s7 V s# w! q) M 视频分辨率
4 y% f$ a. \7 Q4 Y8 q) k5 P -1 V2 L1 _- f/ G
8 k7 ~8 U* Q2 Y% O
编码
- ?: x2 ]( u% A; Z' n# T* J" b5 p Codec
+ ~% `/ ?/ }5 e* ]1 J -
w( M {' p# m. V- i7 p
. ^. L. Q M4 L4 G2 A6 t mystery& ]5 W; N8 x6 b4 m, x/ w* ^
mystery! a0 X3 v4 F% u" `, r# Z6 P$ @
-; _1 s( T5 E6 h
- M1 I1 b0 H! D. n! D+ G
9 D2 `8 d: D) I) ?, M a & f% H- y6 r0 d- F( d: N" ]" }# h
! f$ s! _0 E8 h' a0 [2 M
) N$ F) R2 a) I5 m* Y
0 i3 u; p2 m* t+ l, D" ^% j( N7 \) x" J& ?! j
按住画面移动小窗7 g0 w2 }6 Y1 M4 M* R% p
, g- E7 [: R" B9 P _; X
5 r! p6 Y/ r9 o5 i+ m6 G2 _9 q' P: U6 d$ Q4 d" r
4 n$ L8 e/ o4 ?6 { H5 \8 z3 d! `+ g0 d- P
文心大模型4.0工具版发布:1天可以调用100万次 推理成本降到原来的1%
! n2 W! C" u3 R @1 v( _: s. |0 t, j% M+ D( `
首先讲一下,文心一言和文心大模型的最新进展:
1 F8 a+ b5 f% U( E: p1 V, Z/ m1 {文心一言从去年3月16日发布,到今天是一年零一个月的时间。我们的用户数突破了2亿,API日均调用量也突破了2亿,服务的客户数达到了8.5万,利用千帆平台开发的AI原生应用数超过了19万。! `$ D: Q3 V7 h4 \) U% l0 n* g$ t
文心一言正在改变更多人的工作和生活。
! G* V% p" S4 ^( b. }8 t8 U2 [( L. N支撑文心一言的基座模型,就是文心大模型。过去一年,它经历了从3.0版本到3.5,再到4.0版本的进化。文心4.0在理解、生成、逻辑、记忆四大能力方面,均达到了业界领军水平。
4 d5 A5 Z0 L# N) k, A( {& j近几个月来,文心大模型在代码生成、代码解释、代码优化等通用能力方面实现了进一步的显著提升,达到国际领先水平。 [) m$ ?% q5 C# @$ ?7 X) B
今天,我们正式发布文心大模型4.0的工具版,现在,大家可以在工具版上,体验代码解释器功能,通过自然语言交互,就能实现对复杂数据和文件的处理与分析,还可以生成图表或文件,能够快速洞察数据中的特点、分析变化趋势、为后续的决策提供高效精准的支撑。
! p3 j& k/ k& L4 c, s# q# n, B文心大模型已经成为了中国最领先、应用最广泛的AI基础模型。
; _ A2 ~, o' t6 U+ a不仅如此,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。" C. H( {0 f0 E
也就是说,客户原来一天调用1万次,同样成本现在可以调用100万次。媒体可能不会因为成本下降99%而兴奋。但是企业也好,开发者也好,一旦用起来,最关注的就是效果和成本。
# C0 ?( n: O9 H0 L* ~我们能在提升性能的同时,把推理成本降到1%,正是因为百度在芯片、框架、模型、应用这四层架构上有着全栈的布局,通过端到端优化,不断地把成本打下来,让更多人都可以高效、低价地用大模型来做AI应用。
- N: d* x0 z3 ]' x8 `; q: t毫无疑问,大模型相关的话题,在2024年依然会很热,各类技术突破还会不断涌现。媒体也会继续热衷于用“震撼发布”“史诗级更新”这样的标题进行渲染。但我想强调的是,大模型本身并不直接创造价值,基于大模型开发出来的AI应用才能满足真实的市场需求。: T; r' y/ X" N* i
分享开发AI原生应用的具体思路和工具:“踩了无数的坑,交了高昂学费” ?' t8 p. [2 W3 k$ H
今天我想跟大家分享的是一些基于大模型开发AI原生应用的具体思路和工具。这是我们百度根据过去一年的实践,踩了无数的坑,交了高昂的学费换来的。
; v$ ~* ~8 z' R. M( o+ i第一是MoE。未来大型的AI原生应用基本都是MoE架构,这里所说的MoE不是一般的学术概念,而是大小模型的混用,不依赖一个模型来解决所有问题。但什么时候调用小模型、什么时候调用大模型、什么时候不调用模型,这都是有技术含量的,要针对应用的不同场景做匹配。1 ~1 x1 }$ c+ M: k# f
第二是小模型。小模型推理成本低,响应速度快,在一些特定场景中,经过SFT精调后的小模型,它的使用效果可以媲美大模型。这就是我们发布Speed,Lite、Tiny三个轻量模型的原因。我们通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型效果更好,速度更快,成本更低。4 |# h, f5 [8 R' A/ f
第三是智能体。智能体是当下很热的一个话题,随着智能体能力的提升,会不断催生出大量新的应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和进化。在一些复杂系统中,我们还可以让不同的智能体互动,相互协作,更高质量地完成任务。这些智能体能力,我们已经开发出来了,并且向开发者全面开放。
6 G; A2 a# m3 Z. }5 m0 W7 G在MoE、小模型、智能体这三个方向上,百度都已经给大家做好了“开箱即用”的工具。下面,我就给大家介绍三种不同的工具,分别是:智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder。: H* R4 L" U. E+ i5 ?
智能体开发工具AgentBuilder:
7 r3 q1 g0 Q+ j& g, {# c智能体是里每个人最近、最主流的大模型使用方式
4 F- D4 H7 M4 l5 N/ `1 G. S! s+ `5 R首先是智能体开发工具AgentBuilder。智能体可能是未来离每个人最近、最主流的大模型使用方式,基于基础模型,智能体可以批量生成,应用在各种各样的场景。- T( m8 p" {' b
百度刚刚升级了文心智能体平台。截至目前,已经有3万多个智能体被创建、5万多名开发者和上万家企业入驻。我们的目标是,让每个人、每个组织都成为智能体的开发者,打造国内最完整的智能体生态。0 I, U6 t0 |( u( r
那如何实现这个目标呢?就是给大家提供零门槛的智能体开发工具AgentBuilder。下面我们就先以“新加坡旅游局”为例一起看看,一个智能体是如何做出来的。" [) k5 w" H& C0 F Z B) p" d8 R2 x$ X
首先,我们打开文心智能体平台,创建页面有着零代码、低代码两种模式,新手可以直接选择“零代码模式”,用自然语言,几句话就能创建一个智能体。) l M0 `% r5 D+ X
我们先给智能体起名叫“新加坡旅游局”,然后在设定里写明需要打造旅游方案、解答问题,提供酒店门票预订服务,这些设定都是用来指导智能体的,告诉它都能做什么。
" f' c# c* |9 _如果只需要基础智能体,平台会自动完成填写。但我们希望“新加坡旅游局”是一个专业的智能体,所以要进行高级配置。我可以把新加坡百科词条和官网链接都添加到知识库里,让它每天更新。然后添加一些工具,如酒店查询、景点门票购买等,增强它的服务能力。目前我们已经跟携程合作,提供了酒店、景点、票务等旅游服务工具。这样,一个新加坡旅游局的智能体就做好了,可以进一步预览、调优。6 a4 i( l7 h+ v1 S! T
现在打开百度APP,搜索“什么时候去新加坡人最少”,因为大家出去旅游都想避开人潮。智能体会综合多个来源的信息,生成一个答案,“1-3月人最少”。我们还可以点击智能体,和它进一步互动,比如去新加坡旅游的注意事项,推荐新加坡排名前三的酒店,还能让它直接预订新加坡环球影城的门票,一站式解决需求,大大节省了用户时间。
( w" v+ o% r1 H) s! r除了新加坡之外,大连、沈阳等文旅类智能体也都在文心智能体平台上线,还有知识类、创作类、学习类、娱乐类等各式各样的智能体,这些都是用AgentBuilder做出来的。
! y$ b: t* l& p- B去年文心一言刚发布的时候,我就说过,文心一言会影响到每一家公司。因为它强大的自然语言理解能力、表达能力、推理能力,可以使任何一个公司都离自己的客户更近。+ q5 ^( m8 S2 p* C' m5 @
今天,每一个商家、每一个客户,都能在百度拥有专属的智能体。整个过程完全不需要编程,通过类似提示词的信息输入,和简单的几步操作调优,就能迅速生成一个智能体,成为7X24小时在线的金牌业务员。; q3 f2 X8 E% Z1 y" I1 ?+ ]: }) n3 ?) E
我们来看一下,一个商家智能体是怎么做出来的。. F; g- }% ]- ]1 {( R
启德教育是家知名教育企业,在全国有60多家分支机构,还有很多海外分公司,覆盖国家广,对接待的话术要求很高。如何能全天24小时回复客户的咨询,并且提高接待水平、降低经营成本呢?! N$ j/ x/ `4 W" p; [6 \, F% j" a
启德教育利用百度的AgentBuilder,打造了专属的智能体。! u+ c) ~) ~* L' `0 f2 U
我们来看看,如何打造一个具备基本能力的智能体。很简单,在平台上填写智能体的头像、名称、经营业务范围和欢迎语,再设置一些需要用户提供的信息,比如年龄、学历。5分钟、零门槛,一个智能体就做好了。2 T$ K5 B& B0 S6 T/ U, i
启德教育还希望这个智能体是个懂业务、懂学生的留学顾问。它可以针对学生的不同情况,比如想去美国还是澳洲、是硕士还是学士、雅思和托福考了多少分等等,做出专业分析,给出精准回答。我们可以通过添加知识、角色、工具这几大模块,来打造一个更高级的智能体。
" {5 e. I; ~* K! i& r在知识模块中,上传私域知识,让平台实时解析,自动生成对话语料;在角色模块,把一些不在经营范围内的留学国家,增加到过滤方案中,可以提高用户线索的有效率;在工具模块,加入预约到店等服务。通过这样几步简单操作,一个拥有专业能力的启德教育智能体就做好了。$ \: L: u$ q! j0 u
现在,我们来搜索“澳洲留学申请条件”,可以看到智能体快速给出了需要的语言能力、专业选择等七大必备条件,还给能出相应的留学咨询方案,对各种难题都有问必答、有求必应。5 k0 r0 x7 b9 c W: S. l: D* W
启德教育智能体非常的受欢迎,上线第一周,就成功分发了155万次,与用户交互了5.8万次,线索转化量直线增长、有效线索的转化成本明显降低,经营效率大幅提升。
4 V2 }8 I# E% y) Y, a" I8 R下面,我再给大家介绍一个家居行业的智能体。
- e0 A- P3 ^" k1 y7 `3 r0 J索菲亚是专注全屋定制的家居品牌。就像刚刚展示的,它也可以通过填写极其简单的信息,创建出一个基础的商家智能体。但对于家居行业,消费者的线下体验更重要,所以索菲亚希望能在线上打造出一个金牌销售,还原线下的接待体验。, Q9 `* K* @6 g5 W5 l7 i# z7 `. B
因此在进一步的设置中,它在角色模块,选择了数字人作为展示方式,然后给数字人选取了合适的背景和声音,并且结合平台的智能解析能力,自动总结了一套销售话术。最终打造出一位温柔亲切、话术专业的金牌销售,她能24小时满足用户的各种需求,提供高水准的服务体验。+ c* i# Y) p5 g7 a0 g3 r: U
当百度搜索用户有装修诉求时,索菲亚智能体会利用文心大模型的能力,优先给出问题的答案。除此之外,她还会主动与客户确认具体需求,如装修类型、预算等,并推荐附近的线下门店。
. f/ {& F! h+ E# H7 Z% ~% m" t索菲亚商家智能体上线以来,有效线索成本下降了30%。也就是说,它获得一个有效客户,如果过去的成本是100块,现在只需要70块了。* M8 \4 e" }/ T6 A" c9 N3 ~
目前,已有超过1万个百度的客户拥有了商家智能体,涵盖了教育培训、房产家居、机械设备、商务服务等超过30个行业。6 A: W' A' t b! U9 G2 m8 ?& u
上面,通过三个Demo,我展示了开发者和商家,如何利用AgentBuilder,制作不同行业智能体的过程。. ^( E* L. M& h+ v% B; W4 b+ y
现在,制作一个智能体,真的就是分分钟的事。但问题来了!如果没流量、没分发、找不到、没人用,那么开发者和商家就没有收益,没有收益就没有动力。怎么解决这个痛点呢?
0 Y ?% J7 A1 n" E5 J我们的文心智能体平台,为开发者们提供了流量变现的通路。除了百度搜索,百度生态的其他产品,如小度、地图、贴吧、车机等,都能接入智能体的相关能力,为开发者解决流量分发的后顾之忧,获得实打实的收益。
- ?; k6 ~# P, l$ Z有分发,就会有数据反馈;有数据反馈,飞轮转起来,智能体就能够自主迭代,越用越聪明。文心智能体平台还上线了智能体的数据分析和问答调优模块,不久后还将有更多的新能力上线。文心智能体平台将通过分发-诊断-收益的数据飞轮,驱动智能体形成质量更优、流量更好、收益更大的正循环。3 s& _$ L; I& j4 g, u% @9 O
AppBuilder:自然语言三步就能开发一个应用; o$ Q( q9 I& U E/ u* Z3 X1 ~
( B; K7 a" O' J8 P
7 g% P, Y" Y3 }+ o; M+ N- d3 l1 C/ T
' B, T K2 Q& Y
播放! A1 {7 y9 i: O/ Z
. P* c2 ]4 E) ?2 w. I
下一个
+ I3 `' u' ]- r$ e6 C& d- o$ [) }
2 \2 ~: B/ E$ y* d9 a 打开循环播放; `2 A5 n' ]+ P9 R7 A* t1 d
) I- S L# h, A8 N
00:002 e. D7 Z( V$ {3 x2 A
/7 ^9 g2 f' I& g8 W
00:00
: V5 X/ q6 S& m$ v: H* h9 I; X( t
1 b0 e8 J& x/ Y5 X7 S5 R5 K , ~0 K- d0 i( v N$ s/ E. v- n v
" p# j& ?. @' Q: t
% ]' M/ t& C% c3 [* y ; z \: w8 \: J3 P" d
6 z8 F. t: |% \4 p+ Q. T# D A' n ; c7 Z$ h- i. ?6 ]
/ g8 l+ d- b( ?" o3 a5 v4 E) F, c
* b+ \9 F- J, l7 s/ g% ~
0 ]; W5 s( \' u0 L" h; L
/ ~5 u }, i: @ 0 K: c( X2 L7 ]6 L- F: [
- A/ F! N& ~1 l. z w6 ]+ y
8 Y( D+ D# O, o0 ? , ~/ H) n7 p5 V4 x
倍速
, K7 k$ B) J* e! t' S3 \! C) `9 ? 3.0X
W: O$ X) ^; [$ O) n6 c" d6 @' {1 ^& Q2.0X& f& } a! M7 i% \
1.5X
2 e) N% Q" t0 E/ c1.25X
( k; ~! G, z/ O5 D8 H3 E& `+ D1.0X
5 e! E# ]: m" e8 k- k+ u0.75X1 C" D& t/ g L# s5 U/ f' E* @( Y: v
0.5X
& @* c! ]7 _" ^' s0 ~' C% r m2 V2 p! M4 q( z x
. u; W' H: S6 A# l. ?
6 G. k2 |( p9 i' r/ ^5 Y4 U 语言
9 y- I, w# T U8 N: O$ m% s2 B + H/ Z. G9 `- d- o- Q
5 v: s* {$ [" Y5 p+ ^) X: v
# ^6 g' t. [; ]1 ~6 ?* X2 F
多音轨0 v6 q2 E) I. y$ ]) A4 }
* P( F+ j& P* `0 N9 h- D
% v" E: z8 @/ H, P0 t! i 6 W2 O. K& }* m- W s; S
AirPlay
2 y9 I' J6 |: {6 t * P6 Y* J H9 D, Z( z! r a
0" `) i& k k5 J/ Y
" e8 g, }# c1 u( z5 d8 x 8 f9 s: O' Q% J$ Z A" V& h; h& u7 e
4 }# D# _' F, m! Y# M
) E1 j9 j9 }/ ]4 ]4 W1 U
: P* _; a4 I$ Y0 [8 ~ ( w0 }5 {' Z8 Y: g1 ~9 N3 v! h; P
静音播放中,点击 恢复音量
0 f5 e4 m1 M A( f2 L1 R 4 x9 A* c. n$ J" Y! y
/ ^" s$ o7 b3 [, n1 O% [2 }
7 k% h( _+ |( T# H( {1 l' G( H6 u 画中画
; I: u/ g7 i. [3 V0 S" b @0 l0 T $ }3 R7 Z0 A" U D# ^& ?8 A! |
网页全屏
9 ?- C: ]6 I7 h1 T 5 H* q" w( l2 |1 N' L
全屏/ a0 S! f0 S# O" L" g2 @) n
) P$ r' |7 \; p+ v9 R! V1 x U
* I y7 O7 e4 ^) y4 @' K; n
5 `. F! ] [( D' y Q' |
& ^1 X, x' d I' ] u- r) T5 ^ h4 f+ o
<img data-role="txp-ui-error-background" alt="error-background"> 4 w$ q1 T5 i6 i& g+ y/ P
8 p7 z, A9 \0 d$ l4 ` 你可以 刷新 试试
5 J9 s/ O+ r% B& c% j
& J' y8 S* f8 {; T% W
' Z0 g1 l6 G# p5 O) ~2 I& q( @ 7 J: a( t8 w! U- {- T7 O/ X/ {" d
0 J$ Q* C( {; }
* d7 D' g7 y4 U7 s! b
~, i& D/ {) b( [6 d 视频信息
5 S% U: L# ], T, h3 j, Q6 _" Y1.30.10. o2 u9 t+ l, D" [8 d7 b8 ^
3 n! A3 w" q5 f2 B) D2 i9 n
# l B8 s' S z5 P$ K2 }9 h# l2 _
5 Z+ y. @! F- J. S5 R
2 Z k* L4 a3 r# Z 播放信息 上传日志 调试信息 [X] : U/ I1 F$ \7 k7 U
视频ID3 M. A9 k1 F' ^% T& X
VID
0 ~0 c& `5 N. I) {+ D4 t Z -" p- T0 Y4 |# \& q& Q+ ~
* e0 O) o+ d* m; K P6 | 播放流水; Y: R- ~( ^5 A7 _1 r8 ?- }. w: a n
Flowid) ~9 ~' ?* a1 N2 f
-
/ ]. x/ F& s9 s- o9 V3 h ^4 }3 H6 \, n3 ~; K
播放内核9 o, K0 S# Q: M
Kernel# J9 |* d# [% O0 G! r& e5 H5 _
-
0 p% ? n8 G7 ~# Q; v
# V8 n' k: ^7 @) R0 ~ 显示器信息$ b- t M5 d4 E! |, j2 m+ f3 y& h
Res W# n! s& ~+ F/ n( s" l
-
9 k) S' N# I, e1 W, k! b; A7 t
d" S* o) [6 ?5 f9 X+ c; t1 R$ N! j3 ~ 帧数0 M6 Z1 E% i; a8 V% S
-# n& E& r" O0 z6 A$ s0 w4 r7 [
( Z2 a" {# a7 c: ^9 S: x
缓冲健康度: F2 l6 V& \0 v
-5 O8 m% ~+ U3 T! h) M* E7 B! U
1 O& z& a% W) i6 f* z+ \5 J- r 网络活动
7 Z5 A# H8 V3 ^5 o, n net0 U3 C4 B* K- R+ I$ [' j
-
; n' y- K, G- ^! n) [- t) Y
5 u7 [$ N! X; |5 p. N 视频分辨率
: C8 [0 @1 p, V6 r" d -% `; P- ?1 s0 |3 V7 p
2 p9 P+ m X9 |) d9 e
编码2 J+ \: l. i. p4 C/ @) B4 b
Codec
, M) Q$ \' n2 b3 U K' K1 ]0 f -
1 T# j( W7 a& I$ H. k! U: H
5 `0 y; `! ?7 N. ~6 F$ U$ Y mystery" f$ u) o# l! j) q# Q
mystery
J' \0 K% a$ m- L+ }9 m; \ -- n; q/ l, X b) I2 I( Y
/ g% u9 V, s; j( q9 ]+ q
% M/ |* ]6 G+ p% P# M" ?9 ~
, \5 j' Y+ @& r+ L& H! [" Z: P. { , E; J: n: ?7 U- _. v/ ]: G
# f2 _0 ~4 o& T
0 N6 J+ Z* \& `7 |" m+ [5 o3 ]
& F0 @5 I# z. s按住画面移动小窗
4 n7 z" m! h% w0 {0 o6 r# R* Q% K, {$ K4 e
4 P6 d3 E3 B9 w8 G) A% y
) J0 _. C% S5 Q/ z" \
: q, X. W% Q& ^, N# o" l
$ j1 R9 C# I: V4 e5 R9 n
李彦宏公布百度AppBuilder:现场做漫画《周处除三害》2 P5 I7 U: a0 r0 ]% f$ L
: m+ `$ f5 G- Q! \下面,我给大家介绍第二个开发工具,AppBuilder。它是AI原生应用开发工具。在AppBuilder上面,我们提前封装和预置了开发AI原生应用所需的各种组件和框架,大幅降低开发门槛。
& R6 j( d) ?3 }1 ^最快只需三步,开发者就可以用自然语言开发出一个AI原生应用,并且能够便捷地发布、集成到各种各样的业务环境中。我们来看几个案例:+ ?9 ^1 ^4 o" T4 L$ A1 Q
今年年初,我们搞过一期AI原生应用开发挑战赛,赛题是利用AppBuilder打造一款“游乐场排队规划助手”,帮助游客更好地了解游乐场排队情况,设计个性化的游玩路线。
* Q+ i9 O7 V# _' x3 ^# I这期比赛的冠军选手,没写一行代码,就开发出了应用,拿到了百度提供的10万元大奖。这个题目如果会写代码的话,你写一个并不难,但是你一行代码都不写还能做出来,那还是非常依赖基础模型和AppBuilder这个工具的能力的。( O" V N3 V' o' n! P$ t
我们来看下,怎么用AppBuilder,把这个AI应用做出来。& H3 {% F' \& M, \( M9 y
我们先回顾一下赛题。它假定了“环球影城”各个项目的排队时间和刺激指数,那么在有限的时间内获得刺激指数最高的体验,就是这期赛题要解决的问题。0 t" R/ O) n) Y" M% \ h
首先,打开AppBuilder的开发界面,给应用起名“游乐场排队助手”;第二步,我们在角色指令中描述具体要求,包括调用代码解释器、算出在固定时间内的最佳组合、输出结果等;第三步就是到工具组件中,把代码解释器添加进来,帮助运算。
, B7 Q- J. B( s$ T现在,我们来测下效果,在右侧输入问题“我有3个半小时时间,怎么玩最刺激?”,可以看到,代码解释器将这个问题翻译成了代码,再调用数据理解工具,对已知条件进行分析。经过一系列计算,得出将《哈利波特禁忌之旅》、《侏罗纪大冒险》、《霸天虎过山车》、《大黄蜂回旋机》,这四个项目组合游玩,效果最佳。测试没问题,点击发布,在零代码的情况下,一个应用就生成了。
: d) b6 ]- h. |' x现在,AppBuilder又进一步升级了,在创建的过程中,全部可以通过“AI优化配置”功能,自动帮助开发者优化角色指令、组件配置等环节,进一步提高开发效率。
' J. |+ M5 l" x% F. |$ U我们再看一个例子。
) C2 O! E" _ G. H2 _: W今年年初,华北电力大学提出,希望为全校师生提供智能化的专属服务。基于百度的AppBuilder,我们共同打造了一个华电AI助理,下面,我来给大家展示一下,华电AI助理是怎么做出来的:
" j4 q# r( d k R, f第一步:打开AppBuilder,进入创建页面,点击AI自动生成配置。首先为应用设置名称、简介、头像等基本信息。
$ o- q* F" B* t: R第二步:通过自然语言在角色指令中描述具体要求,包括任务、组件能力、要求与限制。/ A$ j5 v+ Q0 N k0 E( a
第三步:插入自定义的图书借阅查询、课表查询、学生成绩查询等组件,让校园助手能够具备智能化服务的能力。之后再为校园助手添加一个开场白,这样应用就配置好了。- ~3 Q) i) v Z- r1 Z
接下来,我们在预览界面中,结合用户提问,对助手进行调试。比如询问四六级考试的报名时间,测试各组件自动调用的效果。/ O" W, N4 b: j9 k- P$ d' G- X
大家可以看到,通过这些简单的操作,这个应用就构建完成了。目前已经小规模测试上线,接入了查制度、查课程,充饭卡、借书籍等高频场景,服务了学校广大师生。后续,我们将与华北电力大学一起,进一步深化应用合作,提供更为丰富便捷的服务。- M$ z6 [7 f6 d5 @9 \
百度在跨模态方面,也有着多年技术积累。在AppBuilder上面,我们也提供了一定的跨模态能力,你只需要给一段文字,或者几句话,就可以快速创建绘画类的应用,像漫画、儿童画本等。4 Z7 N( Z" w f
过程也很简单:打开AppBuilder,点击进入“应用创建”,输入角色指令,选择“添加文生图”组件,再输入三个推荐问题,就可以点击发布了。应用做好后,我们只需要输入一个大概想要的角色或剧情,AppBuilder就可以自动生成故事、输出图画。
) M3 ]( q3 `3 z, C百度文库最新推出的智能漫画和画本生成功能,就利用了AppBuilder上提供的这类组件。我们来看看,百度文库的漫画生成功能,是如何让每一个有创想的人,都能做出好作品的。5 m* C6 G& Z9 X4 }3 G' M
咱们以经典的《周处除三害》为例。
% N, w8 H# E) U; o' O1 P打开百度文库,输入主题《周处除三害》,这在《晋书》和《世说新语》里都有写到,文库搜索后,会根据原文生成故事,我们也可以再对故事内容进行修改;然后点击右侧的AI工具栏,开始创建这篇漫画。3 ~$ w2 Q3 A+ S+ ^: f/ Z
进入漫画制作界面,文库将根据故事情节为我们自动生成漫画分镜;然后从光影、写实、卡通等多种风格中,选择最贴合故事的漫画风格;最后根据角色选择不同的人物形象,这样就完成了漫画的生成。
( K) f6 {- ?: W) k漫画生成后,我们可以在百度文库的智能漫画编辑器里,浏览完整的漫画。同时,文库支持对每一个画面进行编辑、修改和精调,比如,在左侧选中画面“周处与白额虎”,点击编辑,增加画面描述“人物面容清晰,画面明亮”,就能精调出更符合需求的漫画。大家看到,百度文库的漫画功能在角色和场景的风格一致性方面,都做得非常出色。: i3 u' J) C& ]+ L9 d
百度文库的智能漫画能力,极大地提高了创作漫画的效率,降低了漫画创作的成本和门槛,可以让更多有想法、有创意的人实现自己的漫画创作梦。+ ?, R" u/ j% e( c' u' W+ G
不止生成漫画,百度文库现在还可以帮助用户零门槛的创作画本。大家可能不知道,中国小孩一年的人均绘本阅读量只有10本,而欧美国家是50本左右。现在,AI能够让完全没有绘画能力的父母,也可以为自己的孩子创作一个专属的儿童画本了。下面我们就来看一下这个图文并茂的有声画本吧!
! v, g/ [0 ]. |; Q1 X从去年开始,我们用AI重构了百度文库,使它成为用户“内容生产的起点”。如今,在AppBuilder的支持下,百度文库新推出的智能漫画和智能画本功能,更是把场景延伸到了更加有趣的跨模态创作领域。
8 G7 p Y d/ _0 M. N# @! `刚才我用三个案例,展示了如何用百度的AppBuilder,做出AI原生应用。大家应该能够感受到AppBuilder的两个明显优势:" m! O0 b) K3 y1 c. }4 Y* ? ^( U
一是功能强大。依托文心4.0对指令的理解和遵循能力,我们的AppBuilder,能保证冷启动就能达到一个不错的水平,不会因为效果差,再花很长时间去调优,大大降低了开发门槛。依托检索增强技术RAG,在知识问答等典型场景,我们的问答准确率和友好回复程度都达到了95%以上,大幅超越其他同类产品。AppBuilder还提供丰富完整的组件工具,包括百度搜索等基于百度多年技术积累的AI能力组件、大模型能力组件,还有百度独家开放的业务组件等55个组件。以及一些主流场景的第三方API,比如航班查询、论文查询等。我们还刚刚支持了自定义组件,客户可以直接对接自己专有的任何工具和数据。这些丰富的组件,共同支撑起了AI原生应用的高效开发。
) P5 ?7 s5 G7 A+ s& o, @% H二是简单易用。使用AppBuilder,只需三步即可快速创建应用、一键分发。我们也支持开源的SDK,方便大家进行二次开发。
9 J5 x n) [- C. m6 s模型定制工具ModelBuilder:高效低价生产模型6 S- x$ K2 }- V( e
下面我再介绍一下更适合专业开发者使用的工具,那就是ModelBuilder,它可以根据开发者的需求定制任意尺寸的模型,并根据细分场景对模型进一步精调SFT,这样就能达到更好的效果。对开发者来说,用好大模型很重要的一件事儿,就是掌握模型精调的方法。
) _$ _% |$ b/ k1 O我们以教育行业的作文批改场景来举例。因为作文批改有明确的评分标准,并且不同年级对作文的要求和打分标准,也是不同的。这就需要模型精调,让大模型输出的结果,更符合特定的要求。
7 `8 u3 `0 @( ^. T) J0 v我们就来看一下,ModelBuilder是如何实现作文批改的模型精调的。
t: V3 |3 R; N3 c, E第一步:创建数据集。模型精调的效果很大程度依赖我们的数据质量。在这个案例中,原始数据只有180条,质量也不够高。我们就需要用到三个功能:数据清洗、数据标注和数据增强。数据清洗,可以快速去除数据的空缺、乱码等问题。数据标注方面,我们对作文增加了更多维度,比如内容深度、写作手法等评价。数据增强功能,可以生成同类但不重复的数据,进行数据扩充。扩充后,ModelBuilder给我们生成了920条高质量数据。* z: J( h3 S+ j7 Z4 k$ K, i" q
第二步,就进入模型精调阶段了。首先,我们需要选择一个进行精调的基础模型,这里我们选择了ERNIE Speed作为基础模型。然后,我们根据平台推荐值来配置参数,这次数据接近1000条,按照推荐的迭代轮次,配置为10轮,然后就可以让模型开始训练了。) K: G* [: [) }
第三步:把模型部署在平台上,这样整个精调过程就完成了。1 ?( T1 D, o5 N1 D
我们来用一篇中学作文,测试下精调后的模型效果。作文题目是《期待长大》,题材不限,不少于800字。: H7 T O! ]# J' S
我们将一篇学生的作文及批改格式要求,输入到精调前后的两个模型里。来看下,两个模型及老师点评三者的对比。可以看到,精调后的大模型拥有了更加专业的老师点评思维、更好地做了格式遵循。原本老师需要较长时间才能完成的作文批改任务,现在借助大模型,几秒钟就可以快速完成,大大地提升了给学生反馈的速度和效率。目前,这一类精调后的模型,已经在多个教育行业的头部企业中应用起来了。8 P" X8 L* m9 E3 h2 X6 n! `
我前面谈到大型AI原生应用一般都是MoE。那么,该如何组合使用这些模型,获得性价比呢?下面,我就用小度来展示一个MoE模型路由的案例。我们首先来看看,有了大模型的加持,小度是不是变得更聪明了:/ d( f8 m* D* l0 [' d8 |* H
Robin:小度小度
6 U* F) Q5 k4 C: X小度:在呢
0 T0 s5 H4 M1 S* JRobin:今天有什么新闻?9 ~- n" Y( v( v0 f& ^
小度:小度播3-5条当日新闻快讯
5 f4 E5 N9 G9 m- X: @- JRobin:小度小度。听说你最近长本事了?0 ]0 ~& r) C* k* V" @# U2 @
小度:我不单能陪你聊天,还能做你的AI日程助手4 B: I5 ~" E9 o0 S: h) F' H
Robin:那我要来考考你了。帮我安排一下日程,今天活动结束后,我会和张总一起用晚餐,之后在酒店有个管理层的会议,大概需要1个半小时,希望10点之前可以结束。明早我准备晨跑,看看天气如何,然后上午8点有个早会,请帮我安排好日程。
( g0 d; t* _' }# E1 k& f小度:根据您需求,小度给您制定最优的日程安排如下( M( `+ n8 F6 K: ^0 b
o 您与张总晚餐安排在18:00-19:30,结束后,您将在20:00参加管理层会议,21:30左右结束
* o$ M8 J; z0 I: w& ?" A' ?$ o/ d) Vo 明早6点闹钟将提醒您起床去晨跑,跑步时长控制在1个小时以内,确保明早8点早会不迟到; i$ ~% @) n9 j7 c' K# y- \/ J$ g" Z
o 明早天气晴朗,气温25度,建议您穿短袖外出,做好防晒1 M, l8 h$ }7 b& D4 e# P" _
o 您看我能不能当你的秘书,我还有更多新技能呢
$ z& C6 [! c/ g4 Y6 Q& LRobin:挺好的,很棒(向小度竖起大拇指),把这些日程同步到我的手机上吧。
! C/ s9 |2 J4 D, d2 t* D3 D' x+ f刚刚,我向小度提出了好几个问题,其中既有简单的新闻问询,也有复杂的日程安排需求。看起来是跟同一个小度在交流,其实背后调用了不同的模型。当它接受到我的问题后,先是由小模型ERNIE Tiny执行了“模型路由”的工作;对于天气问题,它根据天气查询的结果,调用基于ERNIE Lite打造的精调模型,也是经过SFT的ERNIE Lite,给出了穿衣建议;对于更复杂的日程安排,则调用了性能最好的大模型——文心4.0,来计算出从今晚到明早的各项事项安排。
9 z4 {# k" J% p7 h- ^2 H- b, g今天,我们提给小度的每个问题,都会这样分配给不同模型来执行,调用应用的API接口时,会用ERNIE Functions模型,给孩子讲题时,用文心大模型3.5或4.0,智能助理的打造则用了ERNIE Character模型,提高人设一致性、激发用户聊天欲望。
+ L1 Z" D! O: h* X/ M4 }2 U. }通过这种大小模型的组合调度方式,小度不仅顺利完成了“换脑行动”,装上了全新的AI原生操作系统DuerOS X,而且形成了效果、速度和成本的组合,相比全部使用文心大模型的旗舰版,让响应速度提升2倍,成本下降了99%。刚才和我对话的这个小度添添AI平板机器人,昨天已经在各大平台全面开售,有兴趣的朋友们可以即刻下单体验了。
7 H% r& {7 N$ P这几个关于ModelBuilder的例子,展示的是百度高效低价生产模型的能力。因为有了基础模型文心4.0,我们可以根据需要,兼顾效果、响应速度、推理成本等各种考虑,裁剪出适合各种场景的更小尺寸模型,并且支持精调和post pretrain。这样通过降维裁剪出来的模型,比直接拿开源调出来的模型,同等尺寸下,效果明显更好,同等效果下,成本明显更低。大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。所以开源模型会越来越落后。, F! x9 y- S# o* e) h
为了方便大家快速上手,ModelBuilder预置了大模型。包括了ERNIE3.5和ERNIE4.0,这是旗舰版的大模型,它适合通用的复杂场景,能力强大;还有三个轻量级的大模型, ERNIE Speed、Lite、Tiny;另外还有两个垂直场景的模型,ERNIE Character适合角色扮演;ERNIE Functions适合对话或问答场景中的外部工具使用和业务函数调用。当然ModelBuilder也支持国内外第三方主流模型,总数量达到77个。
( S! A) N* |9 Z- t+ {! `第二届“文心杯”创业大赛正式启动:设5000万元特别大奖1 l$ [) n* }) P* v1 a# A
对于开发者,我们除了提供这些开发工具,还提供资金和资源方面的支持。- w# m0 T( A! x) T1 C) I0 B+ s/ j
去年5月份,百度启动了“文心杯”创业大赛,希望推动大模型生态繁荣,打造更有活力的生态系统,帮助创业者、开发者开发各种AI原生应用。第一届“文心杯”创业大赛,我们收到了近1000支创业团队报名,百度为其中的15支优胜团队,提供了近亿元的投资支持,并且在技术、团队和资源上持续提供全方位扶持。
& I2 C v9 J: X& X9 {& u今天我宣布,第二届“文心杯”创业大赛正式启动。这次我们将扩大项目筛选范围、设置分赛场,面向全球市场及高校学子,招募创业创新团队,只要你的创业方向是AI原生应用,都可以在大赛官网报名参赛。同时,我们也加大了对创业者的支持力度,提供更充足的投资资金、更丰富的业务资源,还首次设立了“特别大奖”,特别优秀的项目将有机会获得最高5000万人民币的现金和资源支持。! B! ~, ^; u9 \* H6 d& F1 Z, w
中国的创业者和开发者,非常善于利用新技术来开发应用。我相信,文心大模型将成为中国AI创业者和开发者的首选,越来越多的应用会建立在文心大模型之上。我也期待,更多创业者和开发者加入我们,一起构建繁荣的AI生态。; ^% c' M1 {4 U& ]8 L4 Q
视觉大模型最大的应用场景是自动驾驶0 ^$ \1 q* F0 H- C6 D# ^4 y
前面我们谈到的这些工具和案例,大部分都是基于大语言模型的。面向未来,我认为多模态大模型,或者说文字、图片、语音、视频等多模态的融合,是基础模型非常重要的长期发展方向,是通往AGI的必经之路。百度在这些领域有着长期投入,并将及时更新技术进展。7 i% P7 u3 d- n4 C$ J, q' A+ p
我有一个非常不一样的判断:视觉大模型最大的应用场景是自动驾驶。百度是自动驾驶的领导者,我们不只训练AI如何生成视频,更训练AI理解真实世界发生的事情并预测未来。- o$ G& o* `5 L0 w7 e0 M( ]7 c
基于超过1亿公里的、中国复杂城市道路测试里程数据,百度训练出来了Apollo视觉感知大模型。它具备检测、跟踪、理解、建图四大基础能力。这让百度拥有了更智能、适应性更强、更安全的自动驾驶方案。2 H) i/ D/ P y1 q* Q
百度地图也率先将视觉感知大模型应用到了制图领域。现在,车道级地图数据,已经上线全国360座城市。只要百度地图导航能去的地方,智驾就都能开。; J- L+ w6 t# V7 l f5 s% R. D
今年春节后,百度的萝卜快跑实现了万里长江“第一跨”, 我们把服务从长江的北岸延伸到了南岸,在武汉的部分区域,我们已经实现了7X24小时的全天候运营,还计划年内在武汉部署1000台无人驾驶车辆。
0 J! @ c7 p; y& Y8 G4 Y" h2 P这是自动驾驶走向真正商业化的一个标志性事件,它不再仅仅是区域性的示范,而是进入到了城市级应用示范的新阶段。萝卜快跑在武汉覆盖了3000多平方公里、770万人口。" [1 Z" Q0 M% O7 t3 E
“打包带走,随取随用”
1 A! O( `. r7 R: J: Y- p" e刚才,我给大家展示了百度文心大模型系列,以及三个开发工具——AgentBuilder、AppBuilder、ModelBuilder,他们组成了一个工具箱,你们可以马上打包带走,随取随用。
& L g& n; ^0 x$ M此时此刻,我站在这里,其实也是一个开发者、一个创业者,跟大家一样兴奋。今天的中国,有10亿互联网用户,有基础大模型,有足够多的AI应用场景,有全球最完备的产业体系,国家也在大力鼓励和支持“人工智能+”行动,每一个人,每一家企业,只需要充分利用这些工具,就可以释放无限的创造力和生产力。
' E$ h t9 i: P& s今天,人人都可以成为开发者。而未来,也必将是一个由开发者一起创造出来的未来!" W1 I2 |7 K$ @ |
谢谢大家! |