Introspective Tips使用大型語(yǔ)言模型 (LLM) 進(jìn)行上下文決策制定

Introspective Tips: Large Language Model for In-Context Decision Making

論文討論了使用大型語(yǔ)言模型 (LLM) 進(jìn)行上下文決策制定的方法。

近年來(lái)，大型語(yǔ)言模型 (LLM) 已經(jīng)在自然語(yǔ)言處理領(lǐng)域產(chǎn)生了重大影響，在多種任務(wù)中取得了出色的結(jié)果。在這項(xiàng)研究中，作者使用“內(nèi)省提示”來(lái)幫助 LLM 自我優(yōu)化其決策制定。通過(guò)內(nèi)省地檢查軌跡，LLM 生成簡(jiǎn)潔且有價(jià)值的提示，來(lái)改進(jìn)其政策。

這種方法在很少或沒(méi)有示例的情況下提高了代理的表現(xiàn)，考慮了三個(gè)重要場(chǎng)景：從代理過(guò)去的經(jīng)驗(yàn)中學(xué)習(xí)、集成專家演示，并泛化到不同的游戲。

重要的是，我們實(shí)現(xiàn)這些改進(jìn)并不需要微調(diào) LLM 參數(shù)，而是調(diào)整提示以概括上述三個(gè)場(chǎng)景的洞察力。我們的框架不僅支持，而且強(qiáng)調(diào)使用 LLM 進(jìn)行上下文決策制定的優(yōu)勢(shì)。通過(guò)超過(guò) 100 個(gè) TextWorld 游戲的實(shí)驗(yàn)，我們展示了我們的方法的優(yōu)勢(shì)。

論文： https://www.aminer.cn/pub/646aecaad68f896efa05a6f6