Pendekatan baru yang dikenal sebagai "Tree of Thoughts" (ToT) telah diusulkan untuk meningkatkan kemampuan pemecahan masalah pada model bahasa besar (LLM) seperti GPT-4. ToT dirancang untuk meningkatkan kemampuan model dalam pemecahan masalah logis, penalaran, dan pemikiran strategis, yang merupakan area yang biasanya menjadi keterbatasan LLM.

ToT bekerja dengan memungkinkan LLM untuk berpikir melalui masalah dalam beberapa langkah, mengeksplorasi berbagai jalur, dan melakukan perencanaan strategis yang melampaui pendekatan dekoding dari kiri ke kanan. Pendekatan ini telah terbukti meningkatkan kemampuan LLM dalam mengatasi tantangan seperti teka-teki matematika dan menulis kreatif, serta meningkatkan interpretabilitas dan aplikabilitas LLM.

Dalam metode ToT, pemecahan masalah direpresentasikan sebagai pencarian melalui langkah-langkah penalaran untuk LLM. Hal ini memungkinkan eksplorasi strategis dan perencanaan yang lebih baik. ToT juga mencakup mekanisme refleksi diri, di mana LLM mengevaluasi outputnya sendiri. Namun, ada beberapa hal yang perlu diperhatikan dalam penggunaan ToT. Metode ini dapat membutuhkan daya komputasi yang intensif, terutama jika digunakan dengan GPT-4. Selain itu, implementasi ToT lebih kompleks daripada metode lain, dan membutuhkan pengetahuan pemrograman atau strategi promp yang kompleks dan panjang. Perlu diperhatikan juga bahwa metode ToT mungkin memiliki masa pakai yang terbatas sebagai teknik, karena dapat ditingkatkan atau digantikan oleh metode baru di masa depan.

Pendekatan Tree of Thoughts merupakan langkah maju dalam memperbaiki kemampuan LLM dalam pemecahan masalah. Dengan memungkinkan pemikiran melalui masalah dalam beberapa langkah, model bahasa besar seperti GPT-4 dapat lebih baik dalam menangani tantangan kompleks seperti teka-teki matematika dan menulis kreatif. Dengan adanya pendekatan ToT, interpretabilitas dan aplikabilitas LLM juga meningkat. Meskipun ToT memerlukan upaya lebih dalam implementasinya, pendekatan ini menjanjikan peningkatan kinerja dan kemampuan LLM dalam bidang pemecahan masalah dan penalaran.