testin the trick

modeling_stacked.py

@@ -38,13 +38,15 @@ class ExtendedMultitaskModelForTokenClassification(PreTrainedModel):
         # Load floret model
         self.dummy_param = nn.Parameter(torch.zeros(1))
         self.model_floret = floret.load_model(self.config.filename)
+        input_ids = "this is a text"
+        predictions, probabilities = self.model_floret.predict([input_ids], k=1)
 
     def forward(self, input_ids, attention_mask=None, **kwargs):
         # Convert input_ids to strings using tokenizer
         print(
             f"Check if it arrives here: {input_ids}, ---, {type(input_ids)} ----- {type(self.model_floret)}"
         )
-        predictions, probabilities = self.model_floret.predict([input_ids], k=1)
+
         # if input_ids is not None:
         #     tokenizer = kwargs.get("tokenizer")
         #     texts = tokenizer.batch_decode(input_ids, skip_special_tokens=True)

test_floret.py

@@ -1,7 +1,10 @@
 import floret
 
 model_floret = floret.load_model("LID-40-3-2000000-1-4.bin")
-
+print(type(model_floret))
 input_ids = 'this is a text'
+
+input_ids = "En l'an 1348, au plus fort des ravages de la peste noire à travers l'Europe, le Royaume de France se trouvait à la fois au bord du désespoir et face à une opportunité. À la cour du roi Philippe VI, les murs du Louvre étaient animés par les rapports sombres venus de Paris et des villes environnantes. La peste ne montrait aucun signe de répit, et le chancelier Guillaume de Nogaret, le conseiller le plus fidèle du roi, portait le lourd fardeau de gérer la survie du royaume."
+
 print(model_floret.predict([input_ids], k=1))