Feat (nn/sdpa): quantization of scaled dot-product attention #167
Job | Run time |
---|---|
3m 2s | |
3m 36s | |
2m 38s | |
2m 42s | |
2m 13s | |
2m 9s | |
3m 6s | |
3m 34s | |
2m 8s | |
2m 50s | |
2m 18s | |
2m 36s | |
3m 11s | |
3m 59s | |
2m 5s | |
3m 24s | |
2m 47s | |
3m 25s | |
3m 21s | |
3m 35s | |
2m 6s | |
2m 42s | |
2m 16s | |
2m 25s | |
3m 27s | |
3m 40s | |
2m 4s | |
2m 28s | |
2m 1s | |
2m 23s | |
3m 18s | |
4m 8s | |
2m 3s | |
3m 4s | |
1m 50s | |
2m 59s | |
1h 41m 33s |