吕后知道后下了一道懿旨，说他身为犯官不能擅写兵书。韩信悲愤难忍仰天长叹道：“这个婆娘太狠毒了！不但要我的命，连我的名也要除掉啊！”有个狱卒听到他的话后，跪在韩信面前说道：“王爷！您就把用兵之法传给小人吧！”韩信苦笑一声之后说道：“本王若不知用兵之道，也不会落到今天这个下场，如今悔之晚矣，怎么能再连累你呢?”狱卒恳求再三，韩信便取来一根筷子，然后在地上画了个方框，又在框中画了一条“界河”，河中写着“楚河”、“汉界”四个字。接着又在河界两边各画了三十六个小格后说道：“本王今年刚好三十六岁，一生助汉灭楚屡立大功，到头来却死在汉王手里。你平时对我百般照料，今生今世我也没有机会报答你了，就把生平所学传给你吧。”说完他叫狱卒取来纸笔，把纸裁成三十二个小块，布在方框内界河两方。一边写着帅、仕、相、车、马、炮、兵等字，另一边写着将、士、象、车、马、炮、卒等字。
摆好后，韩信边移动纸片边告诉狱卒：“这个方框就是千军万马的大战场，两面各代表一方的军力。用兵之道贵在主帅多谋善变，通盘筹划奇正配合，以不变应万变……”并具体教狱卒如何跳马、出兵等。又规定自己人不打自己人，但无路可走也可能被逼死。狱卒边点头边称赞：“奇！王爷真是个奇人啊！”
从那天起，韩信每天都和这个狱卒守着方框研究兵法。因为纸片易烂，就换成了扁圆形的小木头坨儿，为了区别敌我又染成红、黑两色。因为“奇”“棋”谐音，后人便称之为“象棋”。