腾讯新闻《一线》刘雨点
0 M% Z* Y6 O) y! x. l }" M
$ x, f' V: z: @0 \
( v" n# n, f1 O
8 Q! t1 `0 }$ j/ s" y9 C' O5 |1 v+ T* H2 H# k6 j" c% F R
播放0 S9 i& }9 X- P$ r8 o# E! S* a
) w+ d- \5 U* o0 {* y$ Q$ R 下一个2 G5 c+ D: W5 w
7 \- A2 D& [" p4 V! S 打开循环播放
8 F9 o- G- U% _- C: F+ A
; B; K" }) k& G" D 00:033 s- T0 B4 L3 {& U
/) Y$ V/ c. p' i, Z
01:42
! H0 n2 x; z# B. A8 d " v, o, t A$ u6 l: l% ^7 R
+ @5 y5 N4 M+ o: ]) I2 V" U 8 b$ {, [/ Y' {+ P4 R5 u
/ d4 f. p J5 n9 d( V
, h( p5 F7 {( k+ Q% S! Q4 ]& C' p - L! E3 s. T4 ^9 w0 \* |
7 |9 D! z7 T) P0 q0 T- ?+ V( E
# b9 q6 J: g- l8 y: L+ X* o
* }+ x4 @9 i/ m) s# p' e% ] M' _0 X+ n8 @
# b+ k, N6 |" E* F' g 8 [; w4 j* ?( w# E2 M' r5 C
720P1 h5 K$ O9 j7 r6 A: g- s* D
1080P 高清SDR
0 |6 [4 u8 E5 _0 k, y* t; q) H, q6 x/ T
9 C' `- S, V6 n/ j8 Y1 h& i
720P 准高清5 Y, M# N0 ]3 t& l, n
: Y7 X* j0 L$ w; @' J3 A6 l4 L# K
. m- H- b( V& _, p% {! a480P 标清: O, p0 _0 E5 B3 q" V8 @. X, w, W) t
8 @% ^8 g/ ]" C6 O
/ v; a& O* V( S' F! E/ Y( A, c; G" A T, v/ r
, y8 B* R2 i) O& A( _/ y
5 ~0 ]+ m7 a3 w" m) _) U 倍速
?! Y' Z, `+ U- R Y 3.0X6 r! _+ [) s9 N, f" K) Z1 d$ ]+ K
2.0X
; J+ V; R4 i* W1.5X
+ c* w. i' h i' ^1.25X
' C/ t b' A% s. W% p2 q6 } C( l# ]1.0X
5 K: p" ^. T7 n3 }8 P4 q) e1 A v0.75X; _5 d8 t: B% u0 o* f4 @; D
0.5X
6 M6 {1 S. z0 S+ X# M$ E* U8 h" ~& w9 I& z' e g7 j% D
" e/ d0 t6 G0 q" d
% R+ D6 B8 f# U: q4 ?+ u! _4 F- W
语言& [, _, a# s- X; g8 r. z; N
8 f% h" X- H: B) A8 `8 B ' n; z5 m% }* X
- m) |) p& D( M7 U' s. D: e 多音轨5 q+ v' a4 Z1 r4 q! e
. R* u2 j- x' _4 d* g3 P) T* k
1 W: }: V+ \/ b7 G4 i
! }9 ?9 m6 \! h- i6 v% O AirPlay
* P4 ], V7 H! b @ / {- v( z. f! I- q7 ~! _( A
0
1 H" m$ M; {, K3 w# b# O 9 _1 {# O% M7 _% b
% r- c: O) D$ k5 t& ~5 J
4 y# B4 B& @/ g$ o
0 R$ U* k6 y# { z" L# I$ A2 x4 j V6 n * W8 X1 g; N, v0 c8 ?% A( \( |
9 J# ?8 v( g* y3 ?, `* X' h9 k
静音播放中,点击 恢复音量 / l! K0 x1 Z& W" X2 C! ^, ^4 N: K
+ N, l: ]7 `; ~/ X
2 s$ a2 Y( N; }% t n
# s- z- M) E |( o. e; V 画中画
- q) J! {4 k* ]2 v& ]/ j5 |# ] * o. u* X, d) z u
网页全屏
& P- b/ x1 F0 ?' p" H) E
n( Z$ ^: U% g$ L- w4 ]% V: x- r9 R 全屏
! B @6 |; ]& r/ x% ]
& Y: p9 d5 m1 ?: g: i' G* y ) H7 ~7 I! O* z* X- I& [ Z2 |8 `# p
3 S' y: S, n1 ~! D. f) N
* |2 y3 `: E6 r/ N6 k2 z& E3 T- @0 G4 d
<img data-role="txp-ui-error-background" alt="error-background"> 8 e: O; \4 q8 H! ~
9 p# x8 c- ?' S8 ] 你可以 刷新 试试 ! g0 v. m! R- {6 \' K! Y! S" d: b
$ u( H. \: T9 b$ H
- T$ w* K/ K2 V: ^0 ] V* Q& `1 f
; h# ], y8 a& t3 y/ X , O* M1 U" G9 k% r; h% R
) L* b0 R0 J% r3 Y3 F8 `- q$ p5 [0 F1 L
- Y; U: k2 V2 ]
视频信息- A- [) G. L* t4 W/ v2 [
1.30.10
6 p1 @- P) W# E4 |5 K- A3 V3 v
, `/ }. \& Z1 D) Z0 N
( e0 @! m4 V4 o7 d; B& f- L
) b9 U: J: n" a" S- L ! \ G; X' }/ [9 ]2 i8 m" ^# A7 M
播放信息 上传日志 调试信息 [X] / b- l# t3 s' x% T
视频ID
7 t* l! u, F$ q% i- |# } VID* J- J# v; O3 q; S7 _( o r! E/ W
a14838f3r9w
5 {6 w) B0 H& Z" m
/ U/ O0 ?, Q( Q v' n 播放流水
7 I1 k3 T# ?7 t; _ Flowid8 S( G( G4 Z: ~& Y' {
b5cca56a7c1a40abb74bb44ba74753f0' g% L/ ]) ?' T: m% [
7 g+ g3 a; ?+ [% ` S/ @! J' B 播放内核
- U- M: e6 W0 W9 b* G Kernel
* c* B1 ?& u2 Z: T$ p" Y m3u8/hls.js (1.30.10-p2p-1.5.25)9 I# u x( o3 v+ g
: U) g0 F2 V9 j; O( }2 y3 a 显示器信息) q: {5 j( j) ^7 O, _
Res
0 d& V8 \: D, k( {9 b1 @5 O -
: e# Q" N# |: E) v- U! Z
, x4 T, o& |3 i& G4 P9 }& D 帧数7 h" Y' ~1 f. W9 l1 H( r
1/98; 1.02%
# r) N% |' v) F4 ~- Q D - z+ v* `* y2 p4 @
缓冲健康度. q% h$ `9 M- a% y: ~# `
15.48s
0 o- i* w( o+ c % a/ c1 k1 |( r- D5 J6 U
网络活动
g+ ]- k- u H6 U# f1 l net0 w8 H$ n8 i+ ^" n3 l
0 KB/s 0.00/0.00/0.00/0/2/1/0/02 {8 J; [+ B0 K( d1 S( }0 X+ m
9 K. [( o- R' g$ r
视频分辨率
1 H- }0 e& K2 A) D) R 720*960' u) D/ L& {+ n. K& g8 g
9 [/ ?* @# [# B7 G' }" V6 n" ~6 X 编码( p$ Q, j% b) q. P
Codec, r+ S3 }7 n: |% U }% Z
hvc1.1.6.L120.90 / mp4a.40.5 (T265)
! V/ J: v: d" P# {7 Q' p/ q
8 f3 L+ {* b% y) ~' D mystery
2 ~9 N5 U# u3 V mystery7 B. B9 a' J2 M; V' U2 e& j
br:0.105-19.328 t:3.84 pg:1 s:cy->pg->pe->pg->pe
" ^5 X2 [6 t) J: ^
7 E! |- I6 P/ k4 h$ H8 i, d ' M2 N0 \6 J% Q" N5 H
) j# B& d9 R% Q
& M- ?9 C* C# L$ T3 m : b. @, e" o" Y% v# K
% ?, {6 W: [* K# H/ C( Y: o 9 C" t2 F8 M7 M- Y. _( t
广告被拦截插件误伤啦, 1 秒后播放 关闭拦截插件恢复正常 暂不支持打开,请用微信扫码浏览 ' W1 ^6 C* t- Q4 n5 n
, @) c9 n- z# w( q <img data-role="creative-player-video-active-normal-video-detail-item-img">
3 G5 l5 P. T/ m 微信扫码查看更多 ) I2 B$ T: R* q ~: ?$ }3 Z. w
无法关闭广告……继续争取广告权益…… 我知道了! 意见反馈
+ U1 l) K- G z" g: w) x( Y" k7 W" g
4 Q3 s. [' x s0 u按住画面移动小窗. M: u ~, c2 ] y
+ m8 t @# v8 D) b7 [' F' {$ E
* u, B$ s. j3 N+ q( D( x, d& |! R/ o0 `2 @
9 i T! e* { P9 Q
- Z) A# e. G. _& m" s9 k2 z
李彦宏:未来做APP,就跟拍短视频一样简单人人都是开发者
! H/ D8 c- c7 h# c8 ^1 d$ y$ G W% ]) v! c0 e
“未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。”4月16日,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上发表“人人都是开发者”的主题演讲,他指出,“AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。”
( a3 y1 N0 N$ I) a5 ^他表示,百度作为一家技术公司,定位是尽可能为大家提供所需的开发工具,提升社会创造力,这包括了1个基础模型系列和三大AI开发工具,它们组成了工具箱。# Y5 p1 t$ Z( C
以下是李彦宏《人人都是开发者》主题演讲实录:" B6 d6 m6 K" ?1 @$ Z
你只要会说话,就可以成为一名开发者
, a h/ {; f# G大家好,欢迎参加Create 2024百度AI开发者大会,这是Create大会首次在粤港澳大湾区举办。今天现场来了5000多位开发者和科技爱好者。过去这一年,我跟很多创业者、开发者交流,感觉大家都处在一种“FOMO”状态,也就是Fear of Missing Out,既兴奋、又害怕错过。确实,大模型和生成式AI,将彻底改变开发者这个群体。1 J1 R2 i3 E8 q: l u, _3 }6 C
过去,开发者用代码改变世界;未来,自然语言将成为新的通用编程语言,你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。
8 C1 i% ^; a( d- g这一天并不遥远,我们看到,因为有了基础大模型,有了很多低门槛,甚至零门槛的开发工具,开发者的生产力大大提高了。, U9 m1 ~) _3 B h
比如,基于文心大模型的智能代码助手Comate,不仅支持100多种语言和所有主流IDE平台,可以推荐代码、生成代码注释、查找代码缺陷、给出优化方案,还可以深度解读代码库、关联私域知识生成新的代码。上岗一年多,Comate已经走入了喜马拉雅、三菱电梯、软通动力等上万家企业,生成的代码采纳率达到了46%,百度每天新增的代码中,已经有27%是由Comate生成的。
- m& ?: e6 R& J5 P2 u% e) S今天,你不会写代码,也可以做出一个AI应用;不用编程,也可以做出一个智能体。AI正在掀起一场创造力革命,未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。
* i% n6 S5 s, f( C) N: {% P作为一家技术公司,百度的角色定位,就是尽可能地为大家提供所需的开发工具,不断提升整个社会的创造力。具体来说,我们提供1个基础模型系列,就是文心大模型系列,这包括旗舰版的ERNIE3.5, ERNIE4.0, 也包括轻量版的ERNIE Speed、Lite、Tiny等等。( {# r& C, X( [; u/ k" R/ t
我们还提供基于大模型来开发各种应用的工具,包括智能体开发工具AgentBuilder,AI原生应用开发工具AppBuilder,以及各种尺寸的模型定制工具ModelBuilder。这三个工具,都代表了先进生产力。下面,我会给大家一一展示。
8 Q* c) s# V$ {7 B2 ?! h文心一言用户超2亿,文心大模型4.0工具版发布
6 S& h1 \. o8 B$ J6 d+ g* H, x
1 y6 G4 w$ [; u! y5 t- ]
" n) }" p8 v7 S/ `/ f/ l6 V/ h) I" ?7 g! I( g+ E+ e$ {: ^% H9 B! M! \
s- n. L* Z i. S: i 播放" e; }# }* J8 y$ n9 ?
& p6 e0 x# O! q. `/ |5 d' ?% a
下一个
% X7 c. P+ o: _7 u7 N7 J/ z6 u
# U8 W- \1 w0 f& a 打开循环播放6 l/ c3 f! P; N7 l
( C, I8 J+ k' s- `, b- Z! }
00:00
$ j9 U( ^. V6 T" G /+ Y$ E! x/ P" e$ j }1 Y
00:00
, s! |1 w! b$ c! P9 r8 X ( @7 m. m, ^& G9 h/ R
% y' Y8 @- X# H) Q: Y
/ N* Z' B( I& ~
' ~# c2 J( f" S$ _! ]
& B" G. `- e) e9 ^: f
. e H8 @1 L5 m5 D/ J& f " J/ K& ~$ q% d: o+ g) a) _1 |; @
# K! z. ^" v0 I& M, h' O, i' V7 ? 8 p4 l; q& r$ E7 Q! v' r5 O
( l w/ D+ b/ A. d" K$ o
0 J( c6 t# `9 Q( N( g
7 ]3 `7 c# w r( l4 s% q
`: t. o0 ^, m- `1 o$ U & J7 W9 a _: r8 w/ P
; Q( c8 V5 X( x7 U2 A 倍速
6 H3 x( h) B4 x' y* L 3.0X3 m/ t* F9 V/ n: u }
2.0X6 G( j2 o6 c. t" y% |0 J
1.5X1 z5 o3 h% N! c `' b8 X; z
1.25X' O% E l5 s1 S1 c
1.0X
, P" D& W# b! o0.75X
- l; H" |0 [/ _$ }( `( k! u) p0.5X* T( { R# z+ N" U/ @$ M
" i ^4 w2 U7 Q4 S# |( ?" v
' _6 D E3 u" M+ j" T
* E4 [& R# v9 J- d* T( G" V0 P 语言* o' A2 L' \6 R4 D
1 ?( p# g$ A5 ?9 Z$ [
. x! @( w" Z( T3 v& f7 z0 ]
+ N2 M( P3 ~( ]2 g 多音轨
# p( j$ W; e8 q3 h + Y: u) j5 ^8 [% C9 j N' h
, j G# p8 @! N" ~
% w: ?0 Z9 m/ }# t4 ` AirPlay
( v' K" n9 F2 F' X3 V: P) M. x
" \; K6 z/ W. b" Q/ f 0
2 L2 `' R r/ w* B |' G 0 e1 n% U1 ~5 p
$ I. U. f+ C& u- `: S
6 H- H7 `8 ?; o2 w: M + i# J7 v6 u; S& P- a% L9 D; T3 a0 S
) m. @/ P. t- n. {: `1 @0 B
0 m; y" S" n; R/ ^9 `$ U% o6 N" s
静音播放中,点击 恢复音量 # c; Y7 a1 l! Y: K- W* G- x( ~- `
l; ~7 x. ]2 F2 B! p! y
0 L9 {3 z9 D* g1 }; Y; Y) V
! t+ Y! `& [5 H( k) [3 M K 画中画
3 Y! V( p6 t1 F, ]8 E& V* D3 z9 n - v! j+ p, w, b' I9 Z ^
网页全屏3 o( y6 g3 _/ M
* a7 ?5 y2 D& ^' V- N 全屏
' V# z' O: K# c9 _7 C$ p% S + w4 a0 \' R* M& E3 e- |6 X( e5 b% n" `
$ s8 a& j/ O: F- I# b
. t" `: _ n% E/ ?8 ^0 ]: k) ^8 o' T8 m) K: {( H x6 ~* h' N# A
) q) r& l3 K5 `) } <img data-role="txp-ui-error-background" alt="error-background"> 5 D' K, C- U4 W k6 s/ E6 o
* G' v( x1 a7 g, U/ a6 p) \
你可以 刷新 试试
b* ]; a: H' {' W0 } ( ~8 K) Z/ ?7 i) Z" }6 Y" k
8 r, @+ }* v$ L4 V1 B- ^3 k! g
8 c6 `" b7 U7 D, A/ A. |2 T
; S0 P, U( f8 r: s1 ^
1 M/ D# m/ [ V7 S/ }' d
. T4 Y1 ?& A; c2 h( f) T! V
视频信息 h* W+ J- y* i! N% H' Y: c/ @' y
1.30.10. I3 w" I; x& R" C- T: J
) X* E; o' D0 d. f6 N
7 h8 {) I+ m7 V, u9 Y- q0 \
' u1 _6 s6 @& j: H$ z: n
" S$ ?1 q0 x' a! H$ ? 播放信息 上传日志 调试信息 [X] + v/ V) R" K1 p( ]; c( a# v
视频ID
+ v3 `. W1 F. y; F C' F% E- m- r VID b7 m# a0 Y1 e. a7 C7 c% z
-3 M6 N. P/ {; R( Q5 K. V
% Z) ?% |- L. l0 A6 b; R 播放流水
( u: c6 i$ H5 {8 Z Flowid
6 G9 ?; i/ g7 `! e. o -3 y0 `% v0 I6 Z8 g" T
. G! e H" O- a6 W
播放内核
; {4 s- y/ I) K0 R* w Kernel
9 Y/ A; x5 } a5 j9 S -% W6 u- J" Z$ z4 a" x
/ S$ c/ W3 q% K& i/ U/ N X
显示器信息
9 F+ G# N# P! Y# h9 U. x Res
$ O) Z* |6 ~# }8 w6 } -
4 l: V# J! Q4 T( `& z * E3 X8 G+ X! n0 T% x
帧数
9 y4 }4 @ R7 q' H' ^* |! o -
+ \: }+ D9 s" f2 t8 _. J1 s/ \' ]# a $ l Q+ q3 r) O; c% a
缓冲健康度
& @- X- u( p! r$ i" B( Q; M -4 ^( Z1 d ?1 `- h; o
; m- S* B6 C8 s& W% ~. K) F3 L
网络活动& m3 W+ G' j2 u) |8 _0 \
net0 ]% p+ X B' e! o
-
8 ^+ F+ t( \- T
4 w9 l+ [7 m" X% V f) o1 D! M" P 视频分辨率
4 e' j y' B; {8 F4 _ -
0 L& Z; v$ \1 C( g; D( Q 0 t! L7 A; d3 C" e
编码
" r" c$ _) i% N/ N) K6 w Codec$ H4 y* b9 `) U+ L% k, W$ e7 }
-8 q% @. l2 } I/ l& V% b
* H; g- d9 M1 t' b4 r
mystery: [( p9 ]; G5 _# A
mystery
5 k. }8 {2 S: X6 \0 S$ Q" a -
, Q4 M4 o: V. Y3 p- }! d
2 d8 i% s6 W8 C8 D% s t7 k( x ]3 ]
6 A" c2 u( C; W0 l ; O: ^$ s3 Y/ p
8 F1 U" s0 J1 W8 {! S5 E
$ `3 `* C2 J: v4 y3 V! R, z ~, O- P5 Z6 |+ O4 G5 N
按住画面移动小窗
2 g6 p5 {% `! {2 o5 m
- _0 F- m2 _& d, u
p4 F1 M* n1 @" ?* a4 T5 e0 D2 z# P( N, v$ X3 ], S2 H2 ]# t
& r) L; {$ _' k2 } w
% C) U3 d0 R6 ^; [% z
文心大模型4.0工具版发布:1天可以调用100万次 推理成本降到原来的1%
# W) E( ~9 A, \: V6 G! O" X$ I7 N" H& _8 C% x* g! b3 ^9 O
首先讲一下,文心一言和文心大模型的最新进展:: H0 N1 R- e5 z# s
文心一言从去年3月16日发布,到今天是一年零一个月的时间。我们的用户数突破了2亿,API日均调用量也突破了2亿,服务的客户数达到了8.5万,利用千帆平台开发的AI原生应用数超过了19万。 ?! ]7 F( l3 `$ U5 V7 g
文心一言正在改变更多人的工作和生活。
6 n/ d6 `9 F: Y$ ^% ]支撑文心一言的基座模型,就是文心大模型。过去一年,它经历了从3.0版本到3.5,再到4.0版本的进化。文心4.0在理解、生成、逻辑、记忆四大能力方面,均达到了业界领军水平。
8 ~* h% f, M# j$ O( M/ y" F近几个月来,文心大模型在代码生成、代码解释、代码优化等通用能力方面实现了进一步的显著提升,达到国际领先水平。7 f" W+ f, Z1 x' p) M# E" Q$ }. ~
今天,我们正式发布文心大模型4.0的工具版,现在,大家可以在工具版上,体验代码解释器功能,通过自然语言交互,就能实现对复杂数据和文件的处理与分析,还可以生成图表或文件,能够快速洞察数据中的特点、分析变化趋势、为后续的决策提供高效精准的支撑。
9 G a+ |2 }: I文心大模型已经成为了中国最领先、应用最广泛的AI基础模型。
* L4 d( i0 R% T3 U( F' M6 s不仅如此,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。. v! A: @ O; ]% H' W: W/ b* q
也就是说,客户原来一天调用1万次,同样成本现在可以调用100万次。媒体可能不会因为成本下降99%而兴奋。但是企业也好,开发者也好,一旦用起来,最关注的就是效果和成本。$ z6 Y. G$ f2 _: q/ G' P
我们能在提升性能的同时,把推理成本降到1%,正是因为百度在芯片、框架、模型、应用这四层架构上有着全栈的布局,通过端到端优化,不断地把成本打下来,让更多人都可以高效、低价地用大模型来做AI应用。5 x$ F o9 q0 Q: s) d9 |, L# {" n
毫无疑问,大模型相关的话题,在2024年依然会很热,各类技术突破还会不断涌现。媒体也会继续热衷于用“震撼发布”“史诗级更新”这样的标题进行渲染。但我想强调的是,大模型本身并不直接创造价值,基于大模型开发出来的AI应用才能满足真实的市场需求。
2 g" `# }) i1 w/ i分享开发AI原生应用的具体思路和工具:“踩了无数的坑,交了高昂学费”: Y w( R! q& o" O) A
今天我想跟大家分享的是一些基于大模型开发AI原生应用的具体思路和工具。这是我们百度根据过去一年的实践,踩了无数的坑,交了高昂的学费换来的。+ i0 A0 o1 i M' X
第一是MoE。未来大型的AI原生应用基本都是MoE架构,这里所说的MoE不是一般的学术概念,而是大小模型的混用,不依赖一个模型来解决所有问题。但什么时候调用小模型、什么时候调用大模型、什么时候不调用模型,这都是有技术含量的,要针对应用的不同场景做匹配。" {4 S8 e9 ^! S( ~
第二是小模型。小模型推理成本低,响应速度快,在一些特定场景中,经过SFT精调后的小模型,它的使用效果可以媲美大模型。这就是我们发布Speed,Lite、Tiny三个轻量模型的原因。我们通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型效果更好,速度更快,成本更低。8 S$ a4 R. y* N* O8 B
第三是智能体。智能体是当下很热的一个话题,随着智能体能力的提升,会不断催生出大量新的应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和进化。在一些复杂系统中,我们还可以让不同的智能体互动,相互协作,更高质量地完成任务。这些智能体能力,我们已经开发出来了,并且向开发者全面开放。
- o% M/ r, r. l在MoE、小模型、智能体这三个方向上,百度都已经给大家做好了“开箱即用”的工具。下面,我就给大家介绍三种不同的工具,分别是:智能体开发工具AgentBuilder、AI原生应用开发工具AppBuilder、各种尺寸的模型定制工具ModelBuilder。: ~2 k, C6 a1 t( P* T5 r' p
智能体开发工具AgentBuilder:, b" ^$ {- b7 \8 ~6 b z
智能体是里每个人最近、最主流的大模型使用方式
( L8 `2 a1 t1 k首先是智能体开发工具AgentBuilder。智能体可能是未来离每个人最近、最主流的大模型使用方式,基于基础模型,智能体可以批量生成,应用在各种各样的场景。
1 h: E, U( |/ v0 T) ]/ W百度刚刚升级了文心智能体平台。截至目前,已经有3万多个智能体被创建、5万多名开发者和上万家企业入驻。我们的目标是,让每个人、每个组织都成为智能体的开发者,打造国内最完整的智能体生态。' E3 Y) _) X! L' P: S
那如何实现这个目标呢?就是给大家提供零门槛的智能体开发工具AgentBuilder。下面我们就先以“新加坡旅游局”为例一起看看,一个智能体是如何做出来的。, k1 s0 R6 b8 C$ f, I
首先,我们打开文心智能体平台,创建页面有着零代码、低代码两种模式,新手可以直接选择“零代码模式”,用自然语言,几句话就能创建一个智能体。
, R* S3 a9 j$ c1 ^& i/ c" c3 N我们先给智能体起名叫“新加坡旅游局”,然后在设定里写明需要打造旅游方案、解答问题,提供酒店门票预订服务,这些设定都是用来指导智能体的,告诉它都能做什么。1 {* {0 M! @! i, n
如果只需要基础智能体,平台会自动完成填写。但我们希望“新加坡旅游局”是一个专业的智能体,所以要进行高级配置。我可以把新加坡百科词条和官网链接都添加到知识库里,让它每天更新。然后添加一些工具,如酒店查询、景点门票购买等,增强它的服务能力。目前我们已经跟携程合作,提供了酒店、景点、票务等旅游服务工具。这样,一个新加坡旅游局的智能体就做好了,可以进一步预览、调优。: c! x w1 X* j: b5 g* l
现在打开百度APP,搜索“什么时候去新加坡人最少”,因为大家出去旅游都想避开人潮。智能体会综合多个来源的信息,生成一个答案,“1-3月人最少”。我们还可以点击智能体,和它进一步互动,比如去新加坡旅游的注意事项,推荐新加坡排名前三的酒店,还能让它直接预订新加坡环球影城的门票,一站式解决需求,大大节省了用户时间。- _+ i" u+ |; k# X+ o
除了新加坡之外,大连、沈阳等文旅类智能体也都在文心智能体平台上线,还有知识类、创作类、学习类、娱乐类等各式各样的智能体,这些都是用AgentBuilder做出来的。+ O- S! c' a" E6 N n. V6 u4 z
去年文心一言刚发布的时候,我就说过,文心一言会影响到每一家公司。因为它强大的自然语言理解能力、表达能力、推理能力,可以使任何一个公司都离自己的客户更近。
9 m. D/ b8 s- R S( g. \; e今天,每一个商家、每一个客户,都能在百度拥有专属的智能体。整个过程完全不需要编程,通过类似提示词的信息输入,和简单的几步操作调优,就能迅速生成一个智能体,成为7X24小时在线的金牌业务员。
3 E! w2 _8 ^) r3 D8 q, B我们来看一下,一个商家智能体是怎么做出来的。
5 L- u! e/ D! X; D6 Q' x& n启德教育是家知名教育企业,在全国有60多家分支机构,还有很多海外分公司,覆盖国家广,对接待的话术要求很高。如何能全天24小时回复客户的咨询,并且提高接待水平、降低经营成本呢?
/ J) x3 E0 R, D. Y启德教育利用百度的AgentBuilder,打造了专属的智能体。) k5 v8 ^3 d" `" ?, Z
我们来看看,如何打造一个具备基本能力的智能体。很简单,在平台上填写智能体的头像、名称、经营业务范围和欢迎语,再设置一些需要用户提供的信息,比如年龄、学历。5分钟、零门槛,一个智能体就做好了。
8 J: G+ y. d' u- O+ x- ~0 ^启德教育还希望这个智能体是个懂业务、懂学生的留学顾问。它可以针对学生的不同情况,比如想去美国还是澳洲、是硕士还是学士、雅思和托福考了多少分等等,做出专业分析,给出精准回答。我们可以通过添加知识、角色、工具这几大模块,来打造一个更高级的智能体。& P5 d3 M8 g4 T+ _1 V4 ]
在知识模块中,上传私域知识,让平台实时解析,自动生成对话语料;在角色模块,把一些不在经营范围内的留学国家,增加到过滤方案中,可以提高用户线索的有效率;在工具模块,加入预约到店等服务。通过这样几步简单操作,一个拥有专业能力的启德教育智能体就做好了。# X) J; \: A- d7 s2 P- l
现在,我们来搜索“澳洲留学申请条件”,可以看到智能体快速给出了需要的语言能力、专业选择等七大必备条件,还给能出相应的留学咨询方案,对各种难题都有问必答、有求必应。
- L7 j5 ?7 i- ^& L. S3 N启德教育智能体非常的受欢迎,上线第一周,就成功分发了155万次,与用户交互了5.8万次,线索转化量直线增长、有效线索的转化成本明显降低,经营效率大幅提升。9 \, P- w% v/ t) |6 ~1 J
下面,我再给大家介绍一个家居行业的智能体。" T) g' j5 L& @! V4 n: v4 N! _
索菲亚是专注全屋定制的家居品牌。就像刚刚展示的,它也可以通过填写极其简单的信息,创建出一个基础的商家智能体。但对于家居行业,消费者的线下体验更重要,所以索菲亚希望能在线上打造出一个金牌销售,还原线下的接待体验。
* ^4 O* S6 n; F因此在进一步的设置中,它在角色模块,选择了数字人作为展示方式,然后给数字人选取了合适的背景和声音,并且结合平台的智能解析能力,自动总结了一套销售话术。最终打造出一位温柔亲切、话术专业的金牌销售,她能24小时满足用户的各种需求,提供高水准的服务体验。
" ~, `& q; J* A, }5 m当百度搜索用户有装修诉求时,索菲亚智能体会利用文心大模型的能力,优先给出问题的答案。除此之外,她还会主动与客户确认具体需求,如装修类型、预算等,并推荐附近的线下门店。, c. c' l& h/ j# O8 X
索菲亚商家智能体上线以来,有效线索成本下降了30%。也就是说,它获得一个有效客户,如果过去的成本是100块,现在只需要70块了。* K4 {$ K+ j9 S% t3 @# }# ?* ]
目前,已有超过1万个百度的客户拥有了商家智能体,涵盖了教育培训、房产家居、机械设备、商务服务等超过30个行业。# o ]4 F1 g0 j; {) @
上面,通过三个Demo,我展示了开发者和商家,如何利用AgentBuilder,制作不同行业智能体的过程。
% R: E+ |7 f: o9 [! d0 r( M现在,制作一个智能体,真的就是分分钟的事。但问题来了!如果没流量、没分发、找不到、没人用,那么开发者和商家就没有收益,没有收益就没有动力。怎么解决这个痛点呢?
: M' J9 h' Q0 O* L3 e7 ~我们的文心智能体平台,为开发者们提供了流量变现的通路。除了百度搜索,百度生态的其他产品,如小度、地图、贴吧、车机等,都能接入智能体的相关能力,为开发者解决流量分发的后顾之忧,获得实打实的收益。
. l: X n+ ?4 M" q$ p有分发,就会有数据反馈;有数据反馈,飞轮转起来,智能体就能够自主迭代,越用越聪明。文心智能体平台还上线了智能体的数据分析和问答调优模块,不久后还将有更多的新能力上线。文心智能体平台将通过分发-诊断-收益的数据飞轮,驱动智能体形成质量更优、流量更好、收益更大的正循环。
3 h, U6 k& p5 u' yAppBuilder:自然语言三步就能开发一个应用. C8 V8 e; E. \
, W! @* ^$ n i3 F4 y
$ f* W2 D1 p0 ]( I. x1 P: G( S
8 L; F3 q3 q7 @1 ^, w9 o' e
( P5 {3 U5 M& h4 V* K3 ~! ?5 v# C I 播放
5 c# C5 ~7 t- Z; L; _
( x0 T& T4 |* T$ n( C) E 下一个
. x1 l1 u% M2 ?: K
( d$ _+ \4 w, a( Z9 I* E1 e 打开循环播放
1 N6 b) f* X4 W- O
9 b: i. f6 X7 f1 q 00:00& f4 X. f* T: C# i! c
/7 l d# T8 G: Z( }' U
00:00+ x7 D* r3 S7 T1 k+ r8 b
# @( q) G6 X8 j' _7 T# g
- ~+ L8 j- S2 ~+ R e' o* {8 j
" z# T; |: ?$ d% L
( n" T& g, ^+ y$ P% ^ ( _/ |5 d5 { g( z) ?
; U. W& |$ {* e# E # W* X p1 O5 o! X
x0 \# S6 r' Y E3 ~: M, Q e! {" U7 @' L3 C
( u- k) e2 o5 `" g9 @2 T6 @
& ^3 {# z. Q& U, h ; @* r0 b& B; x( [5 Y
5 r! x7 U) n7 K5 ^0 M
' G- F/ [# L' a H8 e
1 t$ f) ]3 [% p0 v: X+ J" f: E 倍速
% w1 l4 C& N$ k8 f 3.0X$ m9 l( L. Q; i( r5 S h8 L/ A+ C
2.0X
6 n" F$ q- f3 ]: O9 W' N! ~1.5X- k: |1 H7 x* o
1.25X
* e5 m: t/ G$ L/ \1 a1.0X
4 n+ \& h9 w8 L: d0.75X
) B* L. x, E: a2 s0 ]0.5X
, c4 s+ n M( q$ s
# g( v2 \# ?+ |0 f% Y2 j, f 2 a2 I! u6 _- H0 `7 D
! X, l) M6 g4 s L9 `2 {$ f+ y
语言
- K7 h. m$ }$ _' s$ r6 b
" n! C( d+ p' C3 U$ ^4 P
8 w: `3 l( Q( B- T* L. D% s' Y ! F& s1 E+ _2 ^: y ~2 E1 H$ p
多音轨
T2 _( K1 c u# r6 M
; ?5 n6 b0 Q i3 `, X) x
; z: B- |) _! I7 p8 K
: D9 {) ]5 ^" P4 P# X [ AirPlay% V2 G( h% R% q/ I. s: ~% C
# o( V" Z$ o! ?' u a, E- @6 k( d! P
0
8 |" f% E" v9 G+ S# N. b( E 9 v, Q1 q6 B3 _9 S6 j; v7 y
3 p+ L, L. J p" }" C% y7 k) D : F6 F, W8 r1 r. z$ y
0 c8 Q. O2 z6 r; ` & M7 T/ U# A- R5 {3 p" x9 H. ?. l8 L0 [$ v8 Y
6 p( f1 U& z0 ~
静音播放中,点击 恢复音量
: \6 E. b( ~$ L6 m2 v
, d3 e" ^9 J, s. D
' v4 O6 ?1 J, t ! c$ {) \+ q8 e2 X! o
画中画
! P! E0 o( \( C 4 Z% T I, c! y% V; l7 @
网页全屏
: q3 e3 E0 E8 B& _# k
$ z7 }3 y. [/ u9 c5 L1 \0 X 全屏
1 x3 M- P% o1 t/ q: E # S, t1 V! W' N$ i4 `/ u
" G" K4 y( C& n6 I) c" z! _; f
' {- K+ s& s7 O" h7 p" n4 } Z/ W3 v
1 n% m$ E% ^ I2 H" a) r4 i. B <img data-role="txp-ui-error-background" alt="error-background">
" U/ z2 n, v2 S+ X8 Z
. ~& D6 q4 |5 s 你可以 刷新 试试 ; _+ h& y& I- {/ q/ {
8 b$ H) x* P7 }3 h J8 n; v
2 C8 d s' u6 U/ [; a8 f
+ R" i. {$ w8 h
5 ?. n' U2 P/ h: ~ ' K0 q! P q5 ^7 x# X" q
6 L3 L8 Q6 q! U, d8 @ 视频信息- Y! R9 R& y9 B# ?4 r+ A: j
1.30.10
5 K4 T+ P, [ n3 ?( e! a/ e- D 2 ]" W' g2 x7 M; |# {
& p, y% i4 ?0 I$ c! y4 E0 L J$ G" P+ B
" F7 i& o9 V7 }7 t9 x 0 e. k9 ?9 m B n
播放信息 上传日志 调试信息 [X] " C2 n3 u1 a+ f, g# l2 Q
视频ID
+ f) T' N: r2 S6 |0 A. h: `4 v: | VID
" g. S$ e# T8 Q+ R3 p4 P -- g, ?+ D: z/ O+ `) y, F7 w
. U+ Q- ^- Q' ~ 播放流水
4 l) [! |# E$ P2 P Flowid
, P# Q5 i( F6 m# `' F -- F% Q% h+ w. V% L. U8 R
+ v% o5 Q; |. J) c/ s
播放内核1 Q6 v! r# j( V$ \# D. m
Kernel7 c' Z9 G: R$ Y; w" s1 `& [/ L5 u7 F
-8 `( I7 g' X8 g) K& K! h# M- E
! o$ l0 f4 g8 K# j+ ?
显示器信息
`) |* P# T# x4 C, { Res$ ?! @/ }+ T* W9 C. H" J8 n
-
$ F' `0 `' ~' M/ g* P 4 a8 _) }" Z' U- {- {1 o, A0 H
帧数
. Q" ?7 l ~( ^ t+ J6 C* L -
; l" d6 f8 j5 {0 K. u % a. ?& O" \/ Y$ ^- e, a
缓冲健康度
* c! J( d! {9 m! }2 M -$ ^9 n( c4 ]8 v2 G, P9 k
; q2 t/ N6 K2 o. k5 g: {5 a 网络活动/ }, v7 v6 `( L( ]7 Z7 C3 x( P9 A3 A+ |
net) x) \4 }8 Z, S! b3 f
-
$ i) I) a g1 o5 L9 B; N9 t
( n% n% ]# S7 Y# R. }5 k$ K J, N 视频分辨率
3 T! f/ O0 q" j. M [/ w \+ y' B -% w5 M7 K8 g W3 t8 J6 c
' v$ l& ]& j3 D" u
编码# B0 U7 T5 ?; F1 p
Codec! \5 c2 }% }5 `) Z+ t
-
% I$ ]% i0 P8 K8 v1 \ . a. R: W/ p3 r9 Z d
mystery/ v# c' g& e2 ~% S8 G7 N. v2 j
mystery0 }0 t4 J) d7 o9 ]) ^3 h$ w' P
-) `6 d; G" A( f2 J( I7 r5 ~
' j$ G3 i9 F- @1 N7 [7 e& @
. _3 c5 q# Q+ x- g
7 N3 D# D) T5 U3 C
; F$ @+ g: p O. G# R8 q# |
1 J; l# s1 g+ J" _" ]" ?/ } & N* k6 h5 b8 l% t
0 { l* Y) }( A3 Z
按住画面移动小窗
( P6 G/ y+ i5 Z+ x
' Q6 n! h8 l$ W1 D# P$ _, S" F0 M. o7 V" r2 U/ M
: O& z) \* d' R: t. O8 J% J' ?) q6 e8 ^" E) e
4 ^2 i5 r* Q6 a- D8 J
李彦宏公布百度AppBuilder:现场做漫画《周处除三害》! Y: T2 J1 Y( }& A! R
' O' [. H" d$ `% Z! n; h; I
下面,我给大家介绍第二个开发工具,AppBuilder。它是AI原生应用开发工具。在AppBuilder上面,我们提前封装和预置了开发AI原生应用所需的各种组件和框架,大幅降低开发门槛。& U& }- j( s3 L/ T2 N) i; g
最快只需三步,开发者就可以用自然语言开发出一个AI原生应用,并且能够便捷地发布、集成到各种各样的业务环境中。我们来看几个案例:
. k% J2 [+ |9 F9 @# a2 j& ]5 i今年年初,我们搞过一期AI原生应用开发挑战赛,赛题是利用AppBuilder打造一款“游乐场排队规划助手”,帮助游客更好地了解游乐场排队情况,设计个性化的游玩路线。$ [: w2 m. P/ @- r. n
这期比赛的冠军选手,没写一行代码,就开发出了应用,拿到了百度提供的10万元大奖。这个题目如果会写代码的话,你写一个并不难,但是你一行代码都不写还能做出来,那还是非常依赖基础模型和AppBuilder这个工具的能力的。
. X7 r: @9 N/ J8 u8 s0 |6 G我们来看下,怎么用AppBuilder,把这个AI应用做出来。4 K4 r$ ]; F/ ~
我们先回顾一下赛题。它假定了“环球影城”各个项目的排队时间和刺激指数,那么在有限的时间内获得刺激指数最高的体验,就是这期赛题要解决的问题。
- B7 p/ A3 [6 q* x4 |. _首先,打开AppBuilder的开发界面,给应用起名“游乐场排队助手”;第二步,我们在角色指令中描述具体要求,包括调用代码解释器、算出在固定时间内的最佳组合、输出结果等;第三步就是到工具组件中,把代码解释器添加进来,帮助运算。
3 h- }! f; d6 I+ ]现在,我们来测下效果,在右侧输入问题“我有3个半小时时间,怎么玩最刺激?”,可以看到,代码解释器将这个问题翻译成了代码,再调用数据理解工具,对已知条件进行分析。经过一系列计算,得出将《哈利波特禁忌之旅》、《侏罗纪大冒险》、《霸天虎过山车》、《大黄蜂回旋机》,这四个项目组合游玩,效果最佳。测试没问题,点击发布,在零代码的情况下,一个应用就生成了。7 J3 S8 a$ v' [/ e! J8 e
现在,AppBuilder又进一步升级了,在创建的过程中,全部可以通过“AI优化配置”功能,自动帮助开发者优化角色指令、组件配置等环节,进一步提高开发效率。
( r9 I `4 d# R7 w' O# @我们再看一个例子。
+ k* H5 z2 ?% O7 X* [* P今年年初,华北电力大学提出,希望为全校师生提供智能化的专属服务。基于百度的AppBuilder,我们共同打造了一个华电AI助理,下面,我来给大家展示一下,华电AI助理是怎么做出来的:1 M5 L8 k/ P+ Z1 K6 F; ?% I2 c) w' N
第一步:打开AppBuilder,进入创建页面,点击AI自动生成配置。首先为应用设置名称、简介、头像等基本信息。
% H5 M! I) k1 ~; X4 L第二步:通过自然语言在角色指令中描述具体要求,包括任务、组件能力、要求与限制。# E+ [) }0 a, k" J2 b# N a
第三步:插入自定义的图书借阅查询、课表查询、学生成绩查询等组件,让校园助手能够具备智能化服务的能力。之后再为校园助手添加一个开场白,这样应用就配置好了。
5 K g9 G, r* A; e2 X& A接下来,我们在预览界面中,结合用户提问,对助手进行调试。比如询问四六级考试的报名时间,测试各组件自动调用的效果。7 F. ~7 A2 |; W/ ^! q1 i' l3 q8 j
大家可以看到,通过这些简单的操作,这个应用就构建完成了。目前已经小规模测试上线,接入了查制度、查课程,充饭卡、借书籍等高频场景,服务了学校广大师生。后续,我们将与华北电力大学一起,进一步深化应用合作,提供更为丰富便捷的服务。* `$ w+ N8 \ Y/ O1 u
百度在跨模态方面,也有着多年技术积累。在AppBuilder上面,我们也提供了一定的跨模态能力,你只需要给一段文字,或者几句话,就可以快速创建绘画类的应用,像漫画、儿童画本等。
" K2 C9 G) |; ]/ M Y过程也很简单:打开AppBuilder,点击进入“应用创建”,输入角色指令,选择“添加文生图”组件,再输入三个推荐问题,就可以点击发布了。应用做好后,我们只需要输入一个大概想要的角色或剧情,AppBuilder就可以自动生成故事、输出图画。
( J0 K- J; s# Q* C. ^/ o# @百度文库最新推出的智能漫画和画本生成功能,就利用了AppBuilder上提供的这类组件。我们来看看,百度文库的漫画生成功能,是如何让每一个有创想的人,都能做出好作品的。
! I7 W9 `8 L. D! }6 y* T咱们以经典的《周处除三害》为例。% ~# c) Y- f a: U
打开百度文库,输入主题《周处除三害》,这在《晋书》和《世说新语》里都有写到,文库搜索后,会根据原文生成故事,我们也可以再对故事内容进行修改;然后点击右侧的AI工具栏,开始创建这篇漫画。
4 Q( L+ G, N3 H, `3 K/ _进入漫画制作界面,文库将根据故事情节为我们自动生成漫画分镜;然后从光影、写实、卡通等多种风格中,选择最贴合故事的漫画风格;最后根据角色选择不同的人物形象,这样就完成了漫画的生成。; H6 n6 y/ F$ Q
漫画生成后,我们可以在百度文库的智能漫画编辑器里,浏览完整的漫画。同时,文库支持对每一个画面进行编辑、修改和精调,比如,在左侧选中画面“周处与白额虎”,点击编辑,增加画面描述“人物面容清晰,画面明亮”,就能精调出更符合需求的漫画。大家看到,百度文库的漫画功能在角色和场景的风格一致性方面,都做得非常出色。, W2 ], ^% _% }, {3 B. o( u/ U
百度文库的智能漫画能力,极大地提高了创作漫画的效率,降低了漫画创作的成本和门槛,可以让更多有想法、有创意的人实现自己的漫画创作梦。1 q' E, \4 w& |+ C
不止生成漫画,百度文库现在还可以帮助用户零门槛的创作画本。大家可能不知道,中国小孩一年的人均绘本阅读量只有10本,而欧美国家是50本左右。现在,AI能够让完全没有绘画能力的父母,也可以为自己的孩子创作一个专属的儿童画本了。下面我们就来看一下这个图文并茂的有声画本吧!) X: L& ~- y" V' z5 `& N$ \
从去年开始,我们用AI重构了百度文库,使它成为用户“内容生产的起点”。如今,在AppBuilder的支持下,百度文库新推出的智能漫画和智能画本功能,更是把场景延伸到了更加有趣的跨模态创作领域。. u$ n X; F- ]: j6 k& n8 Z
刚才我用三个案例,展示了如何用百度的AppBuilder,做出AI原生应用。大家应该能够感受到AppBuilder的两个明显优势:
, t& U% b9 o+ W; v9 c- ]: U一是功能强大。依托文心4.0对指令的理解和遵循能力,我们的AppBuilder,能保证冷启动就能达到一个不错的水平,不会因为效果差,再花很长时间去调优,大大降低了开发门槛。依托检索增强技术RAG,在知识问答等典型场景,我们的问答准确率和友好回复程度都达到了95%以上,大幅超越其他同类产品。AppBuilder还提供丰富完整的组件工具,包括百度搜索等基于百度多年技术积累的AI能力组件、大模型能力组件,还有百度独家开放的业务组件等55个组件。以及一些主流场景的第三方API,比如航班查询、论文查询等。我们还刚刚支持了自定义组件,客户可以直接对接自己专有的任何工具和数据。这些丰富的组件,共同支撑起了AI原生应用的高效开发。( g- G. h, G/ k, j; r( p
二是简单易用。使用AppBuilder,只需三步即可快速创建应用、一键分发。我们也支持开源的SDK,方便大家进行二次开发。
2 }& P9 g0 T5 Q" g; d2 Y/ x7 W/ E模型定制工具ModelBuilder:高效低价生产模型% m( t+ H9 O9 x/ B
下面我再介绍一下更适合专业开发者使用的工具,那就是ModelBuilder,它可以根据开发者的需求定制任意尺寸的模型,并根据细分场景对模型进一步精调SFT,这样就能达到更好的效果。对开发者来说,用好大模型很重要的一件事儿,就是掌握模型精调的方法。
+ \ _. y/ p5 J4 H; {) H8 D; I我们以教育行业的作文批改场景来举例。因为作文批改有明确的评分标准,并且不同年级对作文的要求和打分标准,也是不同的。这就需要模型精调,让大模型输出的结果,更符合特定的要求。7 y4 e; R! |9 P9 @) ~9 ~1 k. d4 n
我们就来看一下,ModelBuilder是如何实现作文批改的模型精调的。
( }' M1 L# m, A9 [; X0 a: U第一步:创建数据集。模型精调的效果很大程度依赖我们的数据质量。在这个案例中,原始数据只有180条,质量也不够高。我们就需要用到三个功能:数据清洗、数据标注和数据增强。数据清洗,可以快速去除数据的空缺、乱码等问题。数据标注方面,我们对作文增加了更多维度,比如内容深度、写作手法等评价。数据增强功能,可以生成同类但不重复的数据,进行数据扩充。扩充后,ModelBuilder给我们生成了920条高质量数据。
( N1 H0 h+ l8 B/ a第二步,就进入模型精调阶段了。首先,我们需要选择一个进行精调的基础模型,这里我们选择了ERNIE Speed作为基础模型。然后,我们根据平台推荐值来配置参数,这次数据接近1000条,按照推荐的迭代轮次,配置为10轮,然后就可以让模型开始训练了。
9 ?4 \/ t* Z( H% a0 t+ s0 ]& O第三步:把模型部署在平台上,这样整个精调过程就完成了。/ J* x! j/ C) d, j: l8 ?
我们来用一篇中学作文,测试下精调后的模型效果。作文题目是《期待长大》,题材不限,不少于800字。
. ]2 H+ S6 ]$ m0 m* m4 m0 I) d我们将一篇学生的作文及批改格式要求,输入到精调前后的两个模型里。来看下,两个模型及老师点评三者的对比。可以看到,精调后的大模型拥有了更加专业的老师点评思维、更好地做了格式遵循。原本老师需要较长时间才能完成的作文批改任务,现在借助大模型,几秒钟就可以快速完成,大大地提升了给学生反馈的速度和效率。目前,这一类精调后的模型,已经在多个教育行业的头部企业中应用起来了。
% e: c4 X1 T- a( g. O0 W我前面谈到大型AI原生应用一般都是MoE。那么,该如何组合使用这些模型,获得性价比呢?下面,我就用小度来展示一个MoE模型路由的案例。我们首先来看看,有了大模型的加持,小度是不是变得更聪明了:- n3 V9 o* v3 ~: c/ u
Robin:小度小度& Y! e3 E9 b+ Y% K3 M
小度:在呢# I, C) L7 U' k/ N* R
Robin:今天有什么新闻?
* |% L8 x6 W; S3 _# v小度:小度播3-5条当日新闻快讯
8 z+ ~2 k! N) i8 d! r, b8 aRobin:小度小度。听说你最近长本事了?7 t/ `: \' U3 R( j ?
小度:我不单能陪你聊天,还能做你的AI日程助手
3 ?% M3 h- r* u* A5 YRobin:那我要来考考你了。帮我安排一下日程,今天活动结束后,我会和张总一起用晚餐,之后在酒店有个管理层的会议,大概需要1个半小时,希望10点之前可以结束。明早我准备晨跑,看看天气如何,然后上午8点有个早会,请帮我安排好日程。6 h$ v8 \. l, `' l" R4 g
小度:根据您需求,小度给您制定最优的日程安排如下
! K0 u3 v! {/ J. C+ j3 ?o 您与张总晚餐安排在18:00-19:30,结束后,您将在20:00参加管理层会议,21:30左右结束
9 C4 H6 S. q- R) [- do 明早6点闹钟将提醒您起床去晨跑,跑步时长控制在1个小时以内,确保明早8点早会不迟到
, {; j; B, Z+ W2 ^6 go 明早天气晴朗,气温25度,建议您穿短袖外出,做好防晒( N2 A y* G6 a+ S( G
o 您看我能不能当你的秘书,我还有更多新技能呢6 p7 S) \; Z8 ^* u3 p
Robin:挺好的,很棒(向小度竖起大拇指),把这些日程同步到我的手机上吧。
" r/ N5 W8 O# Y/ A/ `2 ]- S刚刚,我向小度提出了好几个问题,其中既有简单的新闻问询,也有复杂的日程安排需求。看起来是跟同一个小度在交流,其实背后调用了不同的模型。当它接受到我的问题后,先是由小模型ERNIE Tiny执行了“模型路由”的工作;对于天气问题,它根据天气查询的结果,调用基于ERNIE Lite打造的精调模型,也是经过SFT的ERNIE Lite,给出了穿衣建议;对于更复杂的日程安排,则调用了性能最好的大模型——文心4.0,来计算出从今晚到明早的各项事项安排。
2 m& `& A$ p# N& W3 B" O今天,我们提给小度的每个问题,都会这样分配给不同模型来执行,调用应用的API接口时,会用ERNIE Functions模型,给孩子讲题时,用文心大模型3.5或4.0,智能助理的打造则用了ERNIE Character模型,提高人设一致性、激发用户聊天欲望。
* c" ?; @: @- x; u1 ?通过这种大小模型的组合调度方式,小度不仅顺利完成了“换脑行动”,装上了全新的AI原生操作系统DuerOS X,而且形成了效果、速度和成本的组合,相比全部使用文心大模型的旗舰版,让响应速度提升2倍,成本下降了99%。刚才和我对话的这个小度添添AI平板机器人,昨天已经在各大平台全面开售,有兴趣的朋友们可以即刻下单体验了。' ?# R# O( }* d. l
这几个关于ModelBuilder的例子,展示的是百度高效低价生产模型的能力。因为有了基础模型文心4.0,我们可以根据需要,兼顾效果、响应速度、推理成本等各种考虑,裁剪出适合各种场景的更小尺寸模型,并且支持精调和post pretrain。这样通过降维裁剪出来的模型,比直接拿开源调出来的模型,同等尺寸下,效果明显更好,同等效果下,成本明显更低。大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。所以开源模型会越来越落后。; C3 N V5 ?6 t4 Y0 g
为了方便大家快速上手,ModelBuilder预置了大模型。包括了ERNIE3.5和ERNIE4.0,这是旗舰版的大模型,它适合通用的复杂场景,能力强大;还有三个轻量级的大模型, ERNIE Speed、Lite、Tiny;另外还有两个垂直场景的模型,ERNIE Character适合角色扮演;ERNIE Functions适合对话或问答场景中的外部工具使用和业务函数调用。当然ModelBuilder也支持国内外第三方主流模型,总数量达到77个。- D* a9 T8 i" |9 u' J5 q1 e0 y1 P- P8 [) }
第二届“文心杯”创业大赛正式启动:设5000万元特别大奖; K# d+ d/ {- e2 q
对于开发者,我们除了提供这些开发工具,还提供资金和资源方面的支持。1 c% K: A1 B4 z. X6 @9 Y' _
去年5月份,百度启动了“文心杯”创业大赛,希望推动大模型生态繁荣,打造更有活力的生态系统,帮助创业者、开发者开发各种AI原生应用。第一届“文心杯”创业大赛,我们收到了近1000支创业团队报名,百度为其中的15支优胜团队,提供了近亿元的投资支持,并且在技术、团队和资源上持续提供全方位扶持。' i1 l, \; S1 X# C
今天我宣布,第二届“文心杯”创业大赛正式启动。这次我们将扩大项目筛选范围、设置分赛场,面向全球市场及高校学子,招募创业创新团队,只要你的创业方向是AI原生应用,都可以在大赛官网报名参赛。同时,我们也加大了对创业者的支持力度,提供更充足的投资资金、更丰富的业务资源,还首次设立了“特别大奖”,特别优秀的项目将有机会获得最高5000万人民币的现金和资源支持。8 a' k1 L; ~, Q C/ W( q: X
中国的创业者和开发者,非常善于利用新技术来开发应用。我相信,文心大模型将成为中国AI创业者和开发者的首选,越来越多的应用会建立在文心大模型之上。我也期待,更多创业者和开发者加入我们,一起构建繁荣的AI生态。; b5 Y; z) Y4 V" u/ S
视觉大模型最大的应用场景是自动驾驶
: u4 A: j, Q) k8 x2 q前面我们谈到的这些工具和案例,大部分都是基于大语言模型的。面向未来,我认为多模态大模型,或者说文字、图片、语音、视频等多模态的融合,是基础模型非常重要的长期发展方向,是通往AGI的必经之路。百度在这些领域有着长期投入,并将及时更新技术进展。
# Q$ e! }* O4 g8 V) H3 B# D* V我有一个非常不一样的判断:视觉大模型最大的应用场景是自动驾驶。百度是自动驾驶的领导者,我们不只训练AI如何生成视频,更训练AI理解真实世界发生的事情并预测未来。
* Y7 U; k5 o) b; E0 K1 ]基于超过1亿公里的、中国复杂城市道路测试里程数据,百度训练出来了Apollo视觉感知大模型。它具备检测、跟踪、理解、建图四大基础能力。这让百度拥有了更智能、适应性更强、更安全的自动驾驶方案。4 M# z8 q5 e7 _6 v4 b6 w
百度地图也率先将视觉感知大模型应用到了制图领域。现在,车道级地图数据,已经上线全国360座城市。只要百度地图导航能去的地方,智驾就都能开。- ]. T9 F0 x _, R! u
今年春节后,百度的萝卜快跑实现了万里长江“第一跨”, 我们把服务从长江的北岸延伸到了南岸,在武汉的部分区域,我们已经实现了7X24小时的全天候运营,还计划年内在武汉部署1000台无人驾驶车辆。. H- x+ Y2 Q& R6 Z
这是自动驾驶走向真正商业化的一个标志性事件,它不再仅仅是区域性的示范,而是进入到了城市级应用示范的新阶段。萝卜快跑在武汉覆盖了3000多平方公里、770万人口。" c% Q4 ~# I7 a5 B$ D& I0 _
“打包带走,随取随用”
1 v" W+ p) p" P1 @+ y0 k( Y# D刚才,我给大家展示了百度文心大模型系列,以及三个开发工具——AgentBuilder、AppBuilder、ModelBuilder,他们组成了一个工具箱,你们可以马上打包带走,随取随用。
4 ]$ z+ M+ w2 q8 w4 A此时此刻,我站在这里,其实也是一个开发者、一个创业者,跟大家一样兴奋。今天的中国,有10亿互联网用户,有基础大模型,有足够多的AI应用场景,有全球最完备的产业体系,国家也在大力鼓励和支持“人工智能+”行动,每一个人,每一家企业,只需要充分利用这些工具,就可以释放无限的创造力和生产力。8 j" [# k0 U4 ~0 V$ r) ]
今天,人人都可以成为开发者。而未来,也必将是一个由开发者一起创造出来的未来!6 i, {/ S, }% }- G8 I& {+ T
谢谢大家! |