使用pinyin4j或者jpinyin的，先将汉字转换为拼音，然后记录拼音的首字母，具体的检索过程可以用循环过滤，也可以用前缀树 比如tire树
参考链接：
网页链接 java实现汉字转拼音
网页链接 tire树
