AI相关 面试题

共 43 道 AI相关 面试题。答案默认折叠,便于先自行作答。 1. 如何实现 ChatGPT 类似的流式输出? 难度:1.5 · 类型:QA 题目要点 流式输出的核心是服务端通过 SSE、fetch stream 或 WebSocket 持续返回增量内容,前端通过 ReadableStream 边读边渲染。实现时要注意网络 chunk 不等于完整消息,需要做缓冲和协议解析。前端渲染要做节流,避免频繁状态更新导致卡顿。Agent 场景下建议使用结构化事件协议,把文本增量、工具调用、状态、错误、完成信号分开处理。最后还要支持取消、错误恢复、最终 Markdown 校正和滚动体验,才能达到接近 ChatGPT 的交互质量。 参考答案 类似 ChatGPT 的流式输出,本质是:服务端不要等完整答案生成后再返回,而是把模型生成的 token 或文本片段持续写入 HTTP 响应;前端边读边渲染,并在完成、取消、异常时维护好状态。 实际项目里最常见的是 SSE 或 fetch + ReadableStream。如果只是服务端向前端单向推送,SSE 足够稳定;如果需要双向实时交互,比如语音、多人协作、实时 Agent 控制,可以用 WebSocket。在 ChatGPT 这类文本生成场景中,fetch 读取流也很常用,因为它支持 POST、请求体、鉴权、AbortController,控制能力比原生 EventSource 更强。 前端核心代码大致是这样: async function streamChat(messages: any[], onDelta: (text: string) => void) { const controller = new AbortController(); const response = await fetch('/api/chat/stream', { method: 'POST', headers: { 'Content-Type': 'application/json', }, body: JSON.stringify({ messages }), signal: controller.signal, }); if (!response.ok || !response.body) { throw new Error('stream request failed'); } const reader = response.body.getReader(); const decoder = new TextDecoder('utf-8'); let buffer = ''; while (true) { const { value, done } = await reader.read(); if (done) break; buffer += decoder.decode(value, { stream: true }); const events = buffer.split('\n\n'); buffer = events.pop() || ''; for (const event of events) { const line = event .split('\n') .find((item) => item.startsWith('data:')); if (!line) continue; const data = line.replace(/^data:\s*/, ''); if (data === '[DONE]') { return; } const payload = JSON.parse(data); if (payload.type === 'delta') { onDelta(payload.content); } } } controller.abort(); } 服务端返回时通常使用类似这样的协议: data: {"type":"delta","content":"你好"} data: {"type":"delta","content":",这是流式输出"} data: {"type":"done"} 前端不要直接假设每个 chunk 都是完整 JSON,因为网络分片可能把一个 JSON 拆开,也可能把多个事件合在一起。所以需要 buffer,按约定分隔符,比如 \n\n,拆成完整事件再解析。 渲染层需要注意两点。第一,状态更新不能过于频繁,否则 React 会因为每个 token 都 setState 而出现卡顿。更稳的做法是先把增量内容追加到临时变量里,再用 requestAnimationFrame 或节流批量刷新 UI。第二,如果内容需要 Markdown 渲染,流式阶段可以渲染一个“尽量正确”的中间态,最终完成后再做一次完整 Markdown 渲染,避免代码块、表格、链接在半截状态下解析异常。 在 Agent 场景里,协议最好不要只传纯文本,而是传结构化事件。例如: type StreamEvent = | { type: 'message_delta'; content: string } | { type: 'tool_start'; toolName: string; input: unknown } | { type: 'tool_result'; toolName: string; output: unknown } | { type: 'status'; message: string } | { type: 'error'; message: string } | { type: 'done' }; 这样前端可以把“模型正在思考”“调用工具”“工具返回结果”“继续生成回答”这些状态分开展示,而不是把所有内容混成一段字符串。ChatGPT 类产品的体验重点不只是逐字输出,还包括中断、重试、滚动跟随、错误恢复、消息状态、工具调用状态这些细节。 还要处理取消请求。用户点击停止生成时,前端用 AbortController.abort() 取消请求,后端也需要监听连接关闭,停止模型调用和工具执行,避免资源继续消耗。 const controller = new AbortController(); fetch('/api/chat/stream', { method: 'POST', signal: controller.signal, }); // 点击停止 controller.abort(); ...