Datasets:

mii-llm

/

pinocchio-results

like 0

{ "model_dtype": "bfloat16", "model_name": "DeepMount00/Llama-3-8b-Ita", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.586 }, "pinocchio_it_logica": { "acc": 0.446 }, "pinocchio_it_lingua_straniera": { "acc": 0.6896 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4942 }, "pinocchio_it_diritto": { "acc": 0.5514 }, "pinocchio_it_cultura": { "acc": 0.6147 } }

{ "model_dtype": "bfloat16", "model_name": "DeepMount00/Llama-3-COT-ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5707 }, "pinocchio_it_logica": { "acc": 0.4266 }, "pinocchio_it_lingua_straniera": { "acc": 0.6624 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4879 }, "pinocchio_it_diritto": { "acc": 0.5442 }, "pinocchio_it_cultura": { "acc": 0.5893 } }

{ "model_dtype": "bfloat16", "model_name": "DeepMount00/Llama-3.1-8b-Ita", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.6127 }, "pinocchio_it_logica": { "acc": 0.458 }, "pinocchio_it_lingua_straniera": { "acc": 0.6864 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.5265 }, "pinocchio_it_diritto": { "acc": 0.5796 }, "pinocchio_it_cultura": { "acc": 0.6467 } }

{ "model_dtype": "bfloat16", "model_name": "DeepMount00/Qwen2-1.5B-Ita", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5009 }, "pinocchio_it_logica": { "acc": 0.376 }, "pinocchio_it_lingua_straniera": { "acc": 0.7184 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4053 }, "pinocchio_it_diritto": { "acc": 0.4932 }, "pinocchio_it_cultura": { "acc": 0.4865 } }

{ "model_dtype": "bfloat16", "model_name": "FairMind/Llama-3-8B-4bit-UltraChat-Ita", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.483 }, "pinocchio_it_logica": { "acc": 0.3772 }, "pinocchio_it_lingua_straniera": { "acc": 0.5812 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.424 }, "pinocchio_it_diritto": { "acc": 0.44 }, "pinocchio_it_cultura": { "acc": 0.516 } }

{ "model_dtype": "bfloat16", "model_name": "MoxoffSpA/Volare", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5583 }, "pinocchio_it_logica": { "acc": 0.4183 }, "pinocchio_it_lingua_straniera": { "acc": 0.7256 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.5096 }, "pinocchio_it_diritto": { "acc": 0.5097 }, "pinocchio_it_cultura": { "acc": 0.5869 } }

{ "model_dtype": "bfloat16", "model_name": "Qwen/Qwen2-1.5B-Instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5156 }, "pinocchio_it_logica": { "acc": 0.4056 }, "pinocchio_it_lingua_straniera": { "acc": 0.7334 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4306 }, "pinocchio_it_diritto": { "acc": 0.4995 }, "pinocchio_it_cultura": { "acc": 0.5019 } }

{ "model_dtype": "bfloat16", "model_name": "Qwen/Qwen2-1.5B", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4495 }, "pinocchio_it_logica": { "acc": 0.3725 }, "pinocchio_it_lingua_straniera": { "acc": 0.7231 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3844 }, "pinocchio_it_diritto": { "acc": 0.4184 }, "pinocchio_it_cultura": { "acc": 0.4492 } }

{ "model_dtype": "bfloat16", "model_name": "SeacomSrl/SeaPhi3-medium", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.6512 }, "pinocchio_it_logica": { "acc": 0.5007 }, "pinocchio_it_lingua_straniera": { "acc": 0.7363 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.6128 }, "pinocchio_it_diritto": { "acc": 0.5955 }, "pinocchio_it_cultura": { "acc": 0.6883 } }

{ "model_dtype": "bfloat16", "model_name": "SeacomSrl/SeaQwen2-1.5B", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4683 }, "pinocchio_it_logica": { "acc": 0.3783 }, "pinocchio_it_lingua_straniera": { "acc": 0.7254 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4084 }, "pinocchio_it_diritto": { "acc": 0.4354 }, "pinocchio_it_cultura": { "acc": 0.4635 } }

{ "model_dtype": "bfloat16", "model_name": "anakin87/Llama-3-8b-ita-slerp", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5851 }, "pinocchio_it_logica": { "acc": 0.4468 }, "pinocchio_it_lingua_straniera": { "acc": 0.6823 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.492 }, "pinocchio_it_diritto": { "acc": 0.5532 }, "pinocchio_it_cultura": { "acc": 0.6124 } }

{ "model_dtype": "bfloat16", "model_name": "anakin87/Llama-3-8b-ita-ties-pro", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5795 }, "pinocchio_it_logica": { "acc": 0.4403 }, "pinocchio_it_lingua_straniera": { "acc": 0.6759 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4876 }, "pinocchio_it_diritto": { "acc": 0.5489 }, "pinocchio_it_cultura": { "acc": 0.6059 } }

{ "model_dtype": "bfloat16", "model_name": "anakin87/Phi-3.5-mini-ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5992 }, "pinocchio_it_logica": { "acc": 0.4619 }, "pinocchio_it_lingua_straniera": { "acc": 0.6661 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.5665 }, "pinocchio_it_diritto": { "acc": 0.5553 }, "pinocchio_it_cultura": { "acc": 0.6282 } }

{ "model_dtype": "bfloat16", "model_name": "e-palmisano/Qwen2-1.5B-ITA-Instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4889 }, "pinocchio_it_logica": { "acc": 0.3938 }, "pinocchio_it_lingua_straniera": { "acc": 0.7078 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4249 }, "pinocchio_it_diritto": { "acc": 0.4576 }, "pinocchio_it_cultura": { "acc": 0.4893 } }

{ "model_dtype": "bfloat16", "model_name": "galatolo/cerbero-7B", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4945 }, "pinocchio_it_logica": { "acc": 0.3916 }, "pinocchio_it_lingua_straniera": { "acc": 0.5694 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4316 }, "pinocchio_it_diritto": { "acc": 0.4386 }, "pinocchio_it_cultura": { "acc": 0.5163 } }

{ "model_dtype": "bfloat16", "model_name": "giux78/llama3-8B-usenet-merged", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5395 }, "pinocchio_it_logica": { "acc": 0.3924 }, "pinocchio_it_lingua_straniera": { "acc": 0.6152 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4657 }, "pinocchio_it_diritto": { "acc": 0.5108 }, "pinocchio_it_cultura": { "acc": 0.5643 } }

{ "model_dtype": "bfloat16", "model_name": "giux78/zefiro-7b-dpo-qlora-ITA-v0.7", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4607 }, "pinocchio_it_logica": { "acc": 0.3519 }, "pinocchio_it_lingua_straniera": { "acc": 0.4752 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3951 }, "pinocchio_it_diritto": { "acc": 0.4166 }, "pinocchio_it_cultura": { "acc": 0.4663 } }

{ "model_dtype": "bfloat16", "model_name": "google/gemma-2-27b-it", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.7182 }, "pinocchio_it_logica": { "acc": 0.5699 }, "pinocchio_it_lingua_straniera": { "acc": 0.8683 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.6768 }, "pinocchio_it_diritto": { "acc": 0.6623 }, "pinocchio_it_cultura": { "acc": 0.763 } }

{ "model_dtype": "bfloat16", "model_name": "google/gemma-2-9b-it", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.6875 }, "pinocchio_it_logica": { "acc": 0.5505 }, "pinocchio_it_lingua_straniera": { "acc": 0.8428 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.6564 }, "pinocchio_it_diritto": { "acc": 0.6378 }, "pinocchio_it_cultura": { "acc": 0.7272 } }

{ "model_dtype": "bfloat16", "model_name": "iGeniusAI/Italia-9B-Instruct-v0.1", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4499 }, "pinocchio_it_logica": { "acc": 0.355 }, "pinocchio_it_lingua_straniera": { "acc": 0.3931 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3869 }, "pinocchio_it_diritto": { "acc": 0.4342 }, "pinocchio_it_cultura": { "acc": 0.4545 } }

{ "model_dtype": "bfloat16", "model_name": "meta-llama/Meta-Llama-3-8B-Instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5709 }, "pinocchio_it_logica": { "acc": 0.4358 }, "pinocchio_it_lingua_straniera": { "acc": 0.6767 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4869 }, "pinocchio_it_diritto": { "acc": 0.5409 }, "pinocchio_it_cultura": { "acc": 0.599 } }

{ "model_dtype": "bfloat16", "model_name": "meta-llama/Meta-Llama-3-8B-it", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5412 }, "pinocchio_it_logica": { "acc": 0.4005 }, "pinocchio_it_lingua_straniera": { "acc": 0.6132 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4716 }, "pinocchio_it_diritto": { "acc": 0.5101 }, "pinocchio_it_cultura": { "acc": 0.5721 } }

{ "model_dtype": "bfloat16", "model_name": "meta-llama/Meta-Llama-3.1-8B-Instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5987 }, "pinocchio_it_logica": { "acc": 0.4391 }, "pinocchio_it_lingua_straniera": { "acc": 0.6747 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.5134 }, "pinocchio_it_diritto": { "acc": 0.5583 }, "pinocchio_it_cultura": { "acc": 0.6315 } }

{ "model_dtype": "bfloat16", "model_name": "microsoft/Phi-3-medium-4k-instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.6738 }, "pinocchio_it_logica": { "acc": 0.5326 }, "pinocchio_it_lingua_straniera": { "acc": 0.7584 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.6417 }, "pinocchio_it_diritto": { "acc": 0.6153 }, "pinocchio_it_cultura": { "acc": 0.7125 } }

{ "model_dtype": "bfloat16", "model_name": "mii-llm/maestrale-7B-v0.1", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4749 }, "pinocchio_it_logica": { "acc": 0.353 }, "pinocchio_it_lingua_straniera": { "acc": 0.4515 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4053 }, "pinocchio_it_diritto": { "acc": 0.4326 }, "pinocchio_it_cultura": { "acc": 0.4933 } }

{ "model_dtype": "bfloat16", "model_name": "mii-llm/maestrale-chat-v0.4-beta", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5979 }, "pinocchio_it_logica": { "acc": 0.4284 }, "pinocchio_it_lingua_straniera": { "acc": 0.6226 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4938 }, "pinocchio_it_diritto": { "acc": 0.577 }, "pinocchio_it_cultura": { "acc": 0.636 } }

{ "model_dtype": "bfloat16", "model_name": "mii-llm/minerva-chat-v0.1-alpha-sft", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.2785 }, "pinocchio_it_logica": { "acc": 0.2775 }, "pinocchio_it_lingua_straniera": { "acc": 0.2831 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.264 }, "pinocchio_it_diritto": { "acc": 0.2751 }, "pinocchio_it_cultura": { "acc": 0.2708 } }

{ "model_dtype": "bfloat16", "model_name": "mii-llm/zenith-mini(beta)", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5192 }, "pinocchio_it_logica": { "acc": 0.4016 }, "pinocchio_it_lingua_straniera": { "acc": 0.7306 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4362 }, "pinocchio_it_diritto": { "acc": 0.504 }, "pinocchio_it_cultura": { "acc": 0.5172 } }

{ "model_dtype": "bfloat16", "model_name": "mii-llm/zenith-mini", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5192 }, "pinocchio_it_logica": { "acc": 0.4016 }, "pinocchio_it_lingua_straniera": { "acc": 0.7306 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4362 }, "pinocchio_it_diritto": { "acc": 0.504 }, "pinocchio_it_cultura": { "acc": 0.5172 } }

{ "model_dtype": "bfloat16", "model_name": "mistralai/Mistral-7B-v0.1", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4689 }, "pinocchio_it_logica": { "acc": 0.3623 }, "pinocchio_it_lingua_straniera": { "acc": 0.5065 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4099 }, "pinocchio_it_diritto": { "acc": 0.4218 }, "pinocchio_it_cultura": { "acc": 0.4792 } }

{ "model_dtype": "bfloat16", "model_name": "mistralai/Mistral-7B-v0.3", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4626 }, "pinocchio_it_logica": { "acc": 0.3561 }, "pinocchio_it_lingua_straniera": { "acc": 0.5171 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3958 }, "pinocchio_it_diritto": { "acc": 0.4213 }, "pinocchio_it_cultura": { "acc": 0.4709 } }

{ "model_dtype": "bfloat16", "model_name": "occiglot/occiglot-7b-it-en-instruct", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5202 }, "pinocchio_it_logica": { "acc": 0.3786 }, "pinocchio_it_lingua_straniera": { "acc": 0.4608 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4295 }, "pinocchio_it_diritto": { "acc": 0.4931 }, "pinocchio_it_cultura": { "acc": 0.5446 } }

{ "model_dtype": "bfloat16", "model_name": "raicrits/Hermes7b_ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.3497 }, "pinocchio_it_logica": { "acc": 0.3153 }, "pinocchio_it_lingua_straniera": { "acc": 0.4199 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3125 }, "pinocchio_it_diritto": { "acc": 0.3269 }, "pinocchio_it_cultura": { "acc": 0.3636 } }

{ "model_dtype": "bfloat16", "model_name": "sapienzanlp/Minerva-350M-base-v1.0", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.2773 }, "pinocchio_it_logica": { "acc": 0.2738 }, "pinocchio_it_lingua_straniera": { "acc": 0.2777 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.2554 }, "pinocchio_it_diritto": { "acc": 0.2769 }, "pinocchio_it_cultura": { "acc": 0.2734 } }

{ "model_dtype": "bfloat16", "model_name": "sapienzanlp/Minerva-3B-base-v1.0", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.281 }, "pinocchio_it_logica": { "acc": 0.2747 }, "pinocchio_it_lingua_straniera": { "acc": 0.2801 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.2659 }, "pinocchio_it_diritto": { "acc": 0.2778 }, "pinocchio_it_cultura": { "acc": 0.2781 } }

{ "model_dtype": "bfloat16", "model_name": "seeweb/SeewebLLM-it", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.3907 }, "pinocchio_it_logica": { "acc": 0.32 }, "pinocchio_it_lingua_straniera": { "acc": 0.4507 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3322 }, "pinocchio_it_diritto": { "acc": 0.3529 }, "pinocchio_it_cultura": { "acc": 0.3952 } }

{ "model_dtype": "bfloat16", "model_name": "swap-uniba/LLaMAntino-2-7b-hf-ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.316 }, "pinocchio_it_logica": { "acc": 0.2999 }, "pinocchio_it_lingua_straniera": { "acc": 0.3137 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.2687 }, "pinocchio_it_diritto": { "acc": 0.3211 }, "pinocchio_it_cultura": { "acc": 0.2962 } }

{ "model_dtype": "bfloat16", "model_name": "swap-uniba/LLaMAntino-2-chat-13b-hf-UltraChat-ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.4505 }, "pinocchio_it_logica": { "acc": 0.3509 }, "pinocchio_it_lingua_straniera": { "acc": 0.4813 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.3802 }, "pinocchio_it_diritto": { "acc": 0.4285 }, "pinocchio_it_cultura": { "acc": 0.4545 } }

{ "model_dtype": "bfloat16", "model_name": "swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA", "model_sha": "main" }

{ "pinocchio_it_generale": { "acc": 0.5771 }, "pinocchio_it_logica": { "acc": 0.4397 }, "pinocchio_it_lingua_straniera": { "acc": 0.6718 }, "pinocchio_it_matematica_e_scienze": { "acc": 0.4836 }, "pinocchio_it_diritto": { "acc": 0.5465 }, "pinocchio_it_cultura": { "acc": 0.604 } }