资讯专栏INFORMATION COLUMN

viterbi 维特比解码过程,状态转移矩阵

tuantuan / 851人阅读

摘要:状态转移,发射概率逐次计算每个序列节点的所有状态下的概率值,最大概率值对应的。应用状态转移求解最佳转移路径。状态转移矩阵的作用在于在每个状态转移概率计算时,和固有的状态转移矩阵进行加和,再计算。

viterbi过程
1.hmm类似。 状态转移,发射概率
2.逐次计算每个序列节点的所有状态下的概率值,最大概率值对应的index。
3.概率值的计算,上一个节点的概率值*转移概率+当前概率值。
4.最后取出最大的一个值对应的indexes




难点:    理解viterbi的核心点,在于每个时间步都保留每一个可视状态,每一个可视状态保留上一个时间步的最大隐状态转移,
     每一个时间步t记录上一个最大概率转移过来的时间步t-1的信息,包括index/概率值累积。
         迭代完时间步,根据最后一个最大累积概率值,逐个往前找即可。 根据index对应的状态逐个往前找。

应用:     状态转移求解最佳转移路径。  只要连续时间步,每个时间步有状态分布,前后时间步之间有状态转移,就可以使用viterbi进行最佳状态转移计算求解。
         状态转移矩阵的作用在于 在每个状态转移概率计算时,和固有的状态转移矩阵进行加和,再计算。相当于额外的概率添加。
 import numpy as np


def viterbi_decode(score, transition_params):
    """
    保留所有可视状态下,对seqlen中的每一步的所有可视状态情况下的中间状态求解概率最大值,如此
    :param score:
    :param transition_params:
    :return:
    """
    # score  [seqlen,taglen]  transition_params [taglen,taglen]
    trellis=np.zeros_like(score)
    trellis[0]=score[0]
    backpointers=np.zeros_like(score,dtype=np.int32)

    for t in range(1,len(score)):
        matrix_node=np.expand_dims(trellis[t-1],axis=1)+transition_params  #axis=0 代表发射概率初始状态
        trellis[t]=score[t]+np.max(matrix_node,axis=0)
        backpointers[t]=np.argmax(matrix_node,axis=0)

    viterbi=[np.argmax(trellis[-1],axis=0)]
    for backpointer in reversed(backpointers[1:]):
        viterbi.append(backpointer[viterbi[-1]])
    viterbi_score = np.max(trellis[-1])
    viterbi.reverse()
    print(trellis)
    return viterbi,viterbi_score
def calculate():
    score = np.array([[1, 2, 3],
              [2, 1, 3],
              [1, 3, 2],
              [3, 2,1]])  # (batch_size, time_step, num_tabs)
    transition = np.array([ [2, 1, 3], [1, 3, 2], [3, 2, 1] ] )# (num_tabs, num_tabs)
    lengths = [len(score[0])] # (batch_size, time_step) # numpy print("[numpy]")
    # np_op = viterbi_decode( score=np.array(score[0]), transition_params=np.array(transition))
    # print(np_op[0])
    # print(np_op[1])
    print("=============") # tensorflow
    # score_t = tf.constant(score, dtype=tf.int64)
    # transition_t = transition, dtype=tf.int64
    tf_op = viterbi_decode( score, transition)
    print("--------------------")
    print(tf_op)

if __name__=="__main__":
    calculate()
// java 版本
import java.lang.reflect.Array;
import java.util.ArrayList;
import java.util.List;

public class viterbi {

    public static int[]  viterbi_decode(double[][]score,double[][]trans ) {
        //score(16,31) trans(31,31)

        int path[] = new int[score.length];
        double trellis[][] = new double[score.length][score[0].length];
        int backpointers[][] = new int [score.length][score[0].length];
        trellis[0] = score[0];

        for(int t = 1; t max_column) {
                        max_column = v[i][j];
                        line_point = i;
                    }
                }
                max_v[j] = max_column;
                max_v_linepoint[j] = line_point;
            }

            for(int i = 0 ;i < score[0].length; i++ ) {
                trellis[t][i] = score[t][i] + max_v[i];
                backpointers[t][i] = max_v_linepoint[i];
            }

        }

        int viterbi[] = new int[score.length];
//            List viterbi = new ArrayList<>();
        double max_trellis = trellis[score.length-1][0];
        for(int j = 0; j< trellis[score.length-1].length ;j++) {
            if(trellis[score.length-1][j] > max_trellis) {
                max_trellis = trellis[score.length-1][j];
//                    viterbi.add(j);
                viterbi[0] = j;
            }
        }

        for(int i=1;i< 1+(backpointers.length)/2;i++){
            int temp[] = backpointers[i];
            backpointers[i] = backpointers[backpointers.length-i];
            backpointers[backpointers.length-i]=temp;
        }

        for(int i = 1; i < backpointers.length; i++ ) {
//                viterbi.add( backpointers[i][viterbi.get(viterbi.size() - 1)]);
            viterbi[i] = backpointers[i][viterbi[i-1]];
        }


        for(int i = 0;i < (viterbi.length)/2; i++){    //把数组的值赋给一个临时变量
            int temp = viterbi[i];
            viterbi[i] = viterbi[viterbi.length-i-1];
            viterbi[viterbi.length-i-1] = temp;
        }


        return viterbi;
    }

    public static void main(String[] args){
        List> score=new ArrayList<>();
        ArrayList row1=new ArrayList<>();
        row1.add(1);
        row1.add(2);
        row1.add(3);

        ArrayList row2=new ArrayList<>();
        row2.add(2);
        row2.add(1);
        row2.add(3);

        ArrayList row3=new ArrayList<>();
        row3.add(1);
        row3.add(3);
        row3.add(2);

        ArrayList row4=new ArrayList<>();
        row4.add(3);
        row4.add(2);
        row4.add(1);

        score.add(row1);
        score.add(row2);
        score.add(row3);
        score.add(row4);

        List> trans=new ArrayList<>();
        ArrayList row11=new ArrayList<>();
        row11.add(2);
        row11.add(1);
        row11.add(3);

        ArrayList row12=new ArrayList<>();
        row12.add(1);
        row12.add(3);
        row12.add(2);

        ArrayList row13=new ArrayList<>();
        row13.add(3);
        row13.add(2);
        row13.add(1);

        trans.add(row11);
        trans.add(row12);
        trans.add(row13);



//        double[][] score_double=(double[][]) score.toArray();
//        double[][] trans_double=(double[][]) trans.toArray();
        System.out.println(score);
        System.out.println(trans);

        double[][] score_double=new double[score.size()][score.get(0).size()];
        for(int i=0;i           
               
                                           
                       
                 

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/43429.html

相关文章

  • vertibi python 实现

    摘要:题目阐释算法实现。用实现的和表现层的转移动态规划问题,归结到相邻两个之间存在转移概率,转移概率。难点三层循环,为了保留,计算每个的的概率,所以要嵌套在之外。 题目阐释: viterbi算法实现。 用python实现viterbi的hidden state 和 表现层的转移 动态规划问题,归结到 相邻两个step之间存在 state转移概率,state2emibission转移概...

    zhangyucha0 评论0 收藏0
  • MCMC和Gibbs Sampling算法

    摘要:算法中的马氏链转移以上采样过程中,如图所示,马氏链的转移只是轮换的沿着坐标轴轴和轴做转移,于是得到样本马氏链收敛后,最终得到的样本就是的样本,而收敛之前的阶段称为。 作者:chen_h微信号 & QQ:862251340微信公众号:coderpai简书地址:https://www.jianshu.com/p/278... 本文是整理网上的几篇博客和论文所得出来的,所有的原文连接都在文...

    Bamboy 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<