1×197×768
1×197×768
1×197×768
1×197×768
1×197×768
1×197×768
1×197×768
1×197×12×64
1×197×768
1×197×768
1×197×12×64
1×12×197×64
1×197×12×64
1×12×197×64
1×12×64×197
1×12×197×197
1×12×197×197
1×12×197×197
1×12×197×64
1×197×12×64
1×197×768
input_states
float32[1,197,768]
MatMul
/query/MatMul
float32[768,768]
B
〈768×768〉
Add
/query/Add
float32[768]
A
〈768〉
MatMul
/key/MatMul
float32[768,768]
B
〈768×768〉
Add
/key/Add
float32[768]
A
〈768〉
Reshape
/Reshape
int64[4]
shape
〈4〉
MatMul
/value/MatMul
float32[768,768]
B
〈768×768〉
Add
/value/Add
float32[768]
A
〈768〉
Reshape
/Reshape_1
int64[4]
shape
〈4〉
Transpose
/Transpose
Reshape
/Reshape_2
int64[4]
shape
〈4〉
Transpose
/Transpose_1
Transpose
/Transpose_2
MatMul
/MatMul
Div
/Div
float32
B
= 8
Softmax
/Softmax
MatMul
/MatMul_1
Transpose
/Transpose_3
Reshape
/Reshape_3
int64[3]
shape
〈3〉
output_states
float32[1,197,768]
×
torch_jit
❮
Version
{version}
Copyright ©
Lutz Roeder
Open Model…
.
.
.
OK
≡