Datasets:

unum-cloud

/

ann-codesearch-4m

like 0

Follow

Unum 28

[ "public", "function", "transform", "(", "array", "&", "$", "samples", ")", ":", "void", "{", "if", "(", "!", "$", "this", "->", "r", ")", "{", "throw", "new", "RuntimeException", "(", "'Transformer has not been fitted.'", ")", ";", "}", "$", "samples", "=", "Matrix", "::", "quick", "(", "$", "samples", ")", "->", "matmul", "(", "$", "this", "->", "r", ")", "->", "asArray", "(", ")", ";", "}" ]

[ "Transform", "the", "dataset", "in", "place", "." ]

[ "public", "function", "tokenize", "(", "string", "$", "string", ")", ":", "array", "{", "$", "sentences", "=", "preg_split", "(", "self", "::", "SENTENCE_REGEX", ",", "$", "string", ")", "?", ":", "[", "]", ";", "$", "skipGrams", "=", "[", "]", ";", "foreach", "(", "$", "sentences", "as", "$", "sentence", ")", "{", "$", "words", "=", "[", "]", ";", "preg_match_all", "(", "self", "::", "WORD_REGEX", ",", "$", "sentence", ",", "$", "words", ")", ";", "$", "words", "=", "$", "words", "[", "0", "]", ";", "$", "length", "=", "count", "(", "$", "words", ")", "-", "(", "$", "this", "->", "n", "+", "$", "this", "->", "skip", ")", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<=", "$", "length", ";", "$", "i", "++", ")", "{", "$", "first", "=", "$", "words", "[", "$", "i", "]", ";", "for", "(", "$", "j", "=", "0", ";", "$", "j", "<=", "$", "this", "->", "skip", ";", "$", "j", "++", ")", "{", "$", "skipGram", "=", "$", "first", ";", "for", "(", "$", "k", "=", "1", ";", "$", "k", "<", "$", "this", "->", "n", ";", "$", "k", "++", ")", "{", "$", "skipGram", ".=", "self", "::", "SEPARATOR", ".", "$", "words", "[", "$", "i", "+", "$", "j", "+", "$", "k", "]", ";", "}", "$", "skipGrams", "[", "]", "=", "$", "skipGram", ";", "}", "}", "$", "last", "=", "array_slice", "(", "$", "words", ",", "-", "$", "this", "->", "n", ")", ";", "$", "skipGrams", "[", "]", "=", "implode", "(", "self", "::", "SEPARATOR", ",", "$", "last", ")", ";", "}", "return", "$", "skipGrams", ";", "}" ]

[ "Tokenize", "a", "block", "of", "text", "." ]

[ "public", "function", "generate", "(", "int", "$", "n", ")", ":", "Dataset", "{", "$", "samples", "=", "Matrix", "::", "gaussian", "(", "$", "n", ",", "$", "this", "->", "dimensions", "(", ")", ")", "->", "multiply", "(", "$", "this", "->", "stddev", ")", "->", "add", "(", "$", "this", "->", "center", ")", "->", "asArray", "(", ")", ";", "return", "Unlabeled", "::", "quick", "(", "$", "samples", ")", ";", "}" ]

[ "Generate", "n", "data", "points", "." ]

[ "public", "function", "initialize", "(", "int", "$", "fanIn", ",", "int", "$", "fanOut", ")", ":", "Matrix", "{", "$", "scale", "=", "(", "6.", "/", "(", "$", "fanIn", "+", "$", "fanOut", ")", ")", "**", "0.25", ";", "return", "Matrix", "::", "uniform", "(", "$", "fanOut", ",", "$", "fanIn", ")", "->", "multiply", "(", "$", "scale", ")", ";", "}" ]

[ "Initialize", "a", "weight", "matrix", "W", "in", "the", "dimensions", "fan", "in", "x", "fan", "out", "." ]

[ "public", "function", "initialize", "(", "int", "$", "fanIn", ")", ":", "int", "{", "$", "fanOut", "=", "$", "fanIn", ";", "$", "this", "->", "width", "=", "$", "fanOut", ";", "return", "$", "fanOut", ";", "}" ]

[ "Initialize", "the", "layer", "with", "the", "fan", "in", "from", "the", "previous", "layer", "and", "return", "the", "fan", "out", "for", "this", "layer", "." ]

[ "public", "function", "forward", "(", "Matrix", "$", "input", ")", ":", "Matrix", "{", "$", "this", "->", "input", "=", "$", "input", ";", "$", "this", "->", "computed", "=", "$", "this", "->", "activationFunction", "->", "compute", "(", "$", "input", ")", ";", "return", "$", "this", "->", "computed", ";", "}" ]

[ "Compute", "a", "forward", "pass", "through", "the", "layer", "." ]

[ "public", "function", "back", "(", "Deferred", "$", "prevGradient", ",", "Optimizer", "$", "optimizer", ")", ":", "Deferred", "{", "if", "(", "!", "$", "this", "->", "input", "or", "!", "$", "this", "->", "computed", ")", "{", "throw", "new", "RuntimeException", "(", "'Must perform forward pass before'", ".", "' backpropagating.'", ")", ";", "}", "$", "input", "=", "$", "this", "->", "input", ";", "$", "computed", "=", "$", "this", "->", "computed", ";", "unset", "(", "$", "this", "->", "input", ",", "$", "this", "->", "computed", ")", ";", "return", "new", "Deferred", "(", "function", "(", ")", "use", "(", "$", "input", ",", "$", "computed", ",", "$", "prevGradient", ")", "{", "return", "$", "this", "->", "activationFunction", "->", "differentiate", "(", "$", "input", ",", "$", "computed", ")", "->", "multiply", "(", "$", "prevGradient", "->", "result", "(", ")", ")", ";", "}", ")", ";", "}" ]

[ "Calculate", "the", "gradient", "and", "update", "the", "parameters", "of", "the", "layer", "." ]

[ "public", "static", "function", "fromIterator", "(", "iterable", "$", "samples", ")", ":", "self", "{", "$", "samples", "=", "is_array", "(", "$", "samples", ")", "?", "$", "samples", ":", "iterator_to_array", "(", "$", "samples", ",", "false", ")", ";", "return", "self", "::", "build", "(", "$", "samples", ")", ";", "}" ]

[ "Build", "a", "dataset", "from", "an", "iterator", "." ]

[ "public", "function", "head", "(", "int", "$", "n", "=", "10", ")", ":", "self", "{", "return", "self", "::", "quick", "(", "array_slice", "(", "$", "this", "->", "samples", ",", "0", ",", "$", "n", ")", ")", ";", "}" ]

[ "Return", "a", "dataset", "containing", "only", "the", "first", "n", "samples", "." ]

[ "public", "function", "tail", "(", "int", "$", "n", "=", "10", ")", ":", "self", "{", "return", "self", "::", "quick", "(", "array_slice", "(", "$", "this", "->", "samples", ",", "-", "$", "n", ")", ")", ";", "}" ]

[ "Return", "a", "dataset", "containing", "only", "the", "last", "n", "samples", "." ]

[ "public", "function", "prepend", "(", "Dataset", "$", "dataset", ")", ":", "Dataset", "{", "return", "self", "::", "quick", "(", "array_merge", "(", "$", "dataset", "->", "samples", "(", ")", ",", "$", "this", "->", "samples", ")", ")", ";", "}" ]

[ "Prepend", "this", "dataset", "with", "another", "dataset", "." ]

[ "public", "function", "append", "(", "Dataset", "$", "dataset", ")", ":", "Dataset", "{", "return", "self", "::", "quick", "(", "array_merge", "(", "$", "this", "->", "samples", ",", "$", "dataset", "->", "samples", "(", ")", ")", ")", ";", "}" ]

[ "Append", "this", "dataset", "with", "another", "dataset", "." ]

[ "public", "function", "splice", "(", "int", "$", "offset", ",", "int", "$", "n", ")", ":", "self", "{", "return", "self", "::", "quick", "(", "array_splice", "(", "$", "this", "->", "samples", ",", "$", "offset", ",", "$", "n", ")", ")", ";", "}" ]

[ "Remove", "a", "size", "n", "chunk", "of", "the", "dataset", "starting", "at", "offset", "and", "return", "it", "in", "a", "new", "dataset", "." ]

[ "public", "function", "split", "(", "float", "$", "ratio", "=", "0.5", ")", ":", "array", "{", "if", "(", "$", "ratio", "<=", "0.", "or", "$", "ratio", ">=", "1.", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Split ratio must be strictly'", ".", "\" between 0 and 1, $ratio given.\"", ")", ";", "}", "$", "p", "=", "(", "int", ")", "(", "$", "ratio", "*", "$", "this", "->", "numRows", "(", ")", ")", ";", "$", "left", "=", "self", "::", "quick", "(", "array_slice", "(", "$", "this", "->", "samples", ",", "0", ",", "$", "p", ")", ")", ";", "$", "right", "=", "self", "::", "quick", "(", "array_slice", "(", "$", "this", "->", "samples", ",", "$", "p", ")", ")", ";", "return", "[", "$", "left", ",", "$", "right", "]", ";", "}" ]

[ "Split", "the", "dataset", "into", "two", "stratified", "subsets", "with", "a", "given", "ratio", "of", "samples", "." ]

[ "public", "function", "fold", "(", "int", "$", "k", "=", "3", ")", ":", "array", "{", "if", "(", "$", "k", "<", "2", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot create less than 2'", ".", "\" folds, $k given.\"", ")", ";", "}", "$", "samples", "=", "$", "this", "->", "samples", ";", "$", "n", "=", "(", "int", ")", "floor", "(", "count", "(", "$", "samples", ")", "/", "$", "k", ")", ";", "$", "folds", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "k", ";", "$", "i", "++", ")", "{", "$", "folds", "[", "]", "=", "self", "::", "quick", "(", "array_splice", "(", "$", "samples", ",", "0", ",", "$", "n", ")", ")", ";", "}", "return", "$", "folds", ";", "}" ]

[ "Fold", "the", "dataset", "k", "-", "1", "times", "to", "form", "k", "equal", "size", "datasets", "." ]

[ "public", "function", "batch", "(", "int", "$", "n", "=", "50", ")", ":", "array", "{", "$", "batches", "=", "[", "]", ";", "$", "samples", "=", "$", "this", "->", "samples", ";", "foreach", "(", "array_chunk", "(", "$", "this", "->", "samples", ",", "$", "n", ")", "as", "$", "batch", ")", "{", "$", "batches", "[", "]", "=", "self", "::", "quick", "(", "$", "batch", ")", ";", "}", "return", "$", "batches", ";", "}" ]

[ "Generate", "a", "collection", "of", "batches", "of", "size", "n", "from", "the", "dataset", ".", "If", "there", "are", "not", "enough", "samples", "to", "fill", "an", "entire", "batch", "then", "the", "dataset", "will", "contain", "as", "many", "samples", "as", "possible", "." ]

[ "public", "function", "partition", "(", "int", "$", "column", ",", "$", "value", ")", ":", "array", "{", "if", "(", "!", "is_string", "(", "$", "value", ")", "and", "!", "is_numeric", "(", "$", "value", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Value must be a string or'", ".", "' numeric type, '", ".", "gettype", "(", "$", "value", ")", ".", "' given.'", ")", ";", "}", "$", "left", "=", "$", "right", "=", "[", "]", ";", "if", "(", "$", "this", "->", "columnType", "(", "$", "column", ")", "===", "DataType", "::", "CATEGORICAL", ")", "{", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "if", "(", "$", "sample", "[", "$", "column", "]", "===", "$", "value", ")", "{", "$", "left", "[", "]", "=", "$", "sample", ";", "}", "else", "{", "$", "right", "[", "]", "=", "$", "sample", ";", "}", "}", "}", "else", "{", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "if", "(", "$", "sample", "[", "$", "column", "]", "<", "$", "value", ")", "{", "$", "left", "[", "]", "=", "$", "sample", ";", "}", "else", "{", "$", "right", "[", "]", "=", "$", "sample", ";", "}", "}", "}", "return", "[", "self", "::", "quick", "(", "$", "left", ")", ",", "self", "::", "quick", "(", "$", "right", ")", ",", "]", ";", "}" ]

[ "Partition", "the", "dataset", "into", "left", "and", "right", "subsets", "by", "a", "specified", "feature", "column", ".", "The", "dataset", "is", "split", "such", "that", "for", "categorical", "values", "the", "left", "subset", "contains", "all", "samples", "that", "match", "the", "value", "and", "the", "right", "side", "contains", "samples", "that", "do", "not", "match", ".", "For", "continuous", "values", "the", "left", "side", "contains", "all", "the", "samples", "that", "are", "less", "than", "the", "target", "value", "and", "the", "right", "side", "contains", "the", "samples", "that", "are", "greater", "than", "or", "equal", "to", "the", "value", "." ]

[ "public", "function", "spatialPartition", "(", "array", "$", "leftCentroid", ",", "array", "$", "rightCentroid", ",", "Distance", "$", "kernel", ")", "{", "if", "(", "count", "(", "$", "leftCentroid", ")", "!==", "count", "(", "$", "rightCentroid", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Dimensionality mismatch between'", ".", "' left and right centroids.'", ")", ";", "}", "$", "left", "=", "$", "right", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "$", "lHat", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "leftCentroid", ")", ";", "$", "rHat", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "rightCentroid", ")", ";", "if", "(", "$", "lHat", "<", "$", "rHat", ")", "{", "$", "left", "[", "]", "=", "$", "sample", ";", "}", "else", "{", "$", "right", "[", "]", "=", "$", "sample", ";", "}", "}", "return", "[", "self", "::", "quick", "(", "$", "left", ")", ",", "self", "::", "quick", "(", "$", "right", ")", ",", "]", ";", "}" ]

[ "Partition", "the", "dataset", "into", "left", "and", "right", "subsets", "based", "on", "their", "distance", "between", "two", "centroids", "." ]

[ "public", "function", "randomSubsetWithReplacement", "(", "int", "$", "n", ")", ":", "self", "{", "if", "(", "$", "n", "<", "1", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot generate a subset of'", ".", "\" less than 1 sample, $n given.\"", ")", ";", "}", "$", "max", "=", "$", "this", "->", "numRows", "(", ")", "-", "1", ";", "$", "subset", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "n", ";", "$", "i", "++", ")", "{", "$", "subset", "[", "]", "=", "$", "this", "->", "samples", "[", "rand", "(", "0", ",", "$", "max", ")", "]", ";", "}", "return", "self", "::", "quick", "(", "$", "subset", ")", ";", "}" ]

[ "Generate", "a", "random", "subset", "with", "replacement", "." ]

[ "protected", "function", "split", "(", "Labeled", "$", "dataset", ")", ":", "Decision", "{", "$", "bestImpurity", "=", "INF", ";", "$", "bestColumn", "=", "$", "bestValue", "=", "null", ";", "$", "bestGroups", "=", "[", "]", ";", "$", "max", "=", "$", "dataset", "->", "numRows", "(", ")", "-", "1", ";", "shuffle", "(", "$", "this", "->", "columns", ")", ";", "foreach", "(", "array_slice", "(", "$", "this", "->", "columns", ",", "0", ",", "$", "this", "->", "maxFeatures", ")", "as", "$", "column", ")", "{", "$", "sample", "=", "$", "dataset", "->", "row", "(", "rand", "(", "0", ",", "$", "max", ")", ")", ";", "$", "value", "=", "$", "sample", "[", "$", "column", "]", ";", "$", "groups", "=", "$", "dataset", "->", "partition", "(", "$", "column", ",", "$", "value", ")", ";", "$", "impurity", "=", "$", "this", "->", "splitImpurity", "(", "$", "groups", ")", ";", "if", "(", "$", "impurity", "<", "$", "bestImpurity", ")", "{", "$", "bestColumn", "=", "$", "column", ";", "$", "bestValue", "=", "$", "value", ";", "$", "bestGroups", "=", "$", "groups", ";", "$", "bestImpurity", "=", "$", "impurity", ";", "}", "if", "(", "$", "impurity", "<", "$", "this", "->", "tolerance", ")", "{", "break", "1", ";", "}", "}", "return", "new", "Decision", "(", "$", "bestColumn", ",", "$", "bestValue", ",", "$", "bestGroups", ",", "$", "bestImpurity", ")", ";", "}" ]

[ "Randomized", "algorithm", "that", "chooses", "the", "split", "point", "with", "the", "lowest", "variance", "among", "a", "random", "assortment", "of", "features", "." ]

[ "public", "static", "function", "combineGrid", "(", "array", "$", "grid", ")", ":", "array", "{", "$", "combinations", "=", "[", "[", "]", "]", ";", "foreach", "(", "$", "grid", "as", "$", "i", "=>", "$", "params", ")", "{", "$", "append", "=", "[", "]", ";", "foreach", "(", "$", "combinations", "as", "$", "product", ")", "{", "foreach", "(", "$", "params", "as", "$", "param", ")", "{", "$", "product", "[", "$", "i", "]", "=", "$", "param", ";", "$", "append", "[", "]", "=", "$", "product", ";", "}", "}", "$", "combinations", "=", "$", "append", ";", "}", "return", "$", "combinations", ";", "}" ]

[ "Return", "an", "array", "of", "all", "possible", "combinations", "of", "parameters", ".", "i", ".", "e", "the", "Cartesian", "product", "of", "the", "supplied", "parameter", "grid", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "if", "(", "!", "$", "dataset", "instanceof", "Labeled", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'This Estimator requires a'", ".", "' Labeled training set.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Learner init '", ".", "Params", "::", "stringify", "(", "[", "'base'", "=>", "$", "this", "->", "base", ",", "'metric'", "=>", "$", "this", "->", "metric", ",", "'validator'", "=>", "$", "this", "->", "validator", ",", "'workers'", "=>", "$", "this", "->", "workers", ",", "]", ")", ")", ";", "}", "$", "results", "=", "[", "]", ";", "Loop", "::", "run", "(", "function", "(", ")", "use", "(", "&", "$", "results", ",", "$", "dataset", ")", "{", "$", "pool", "=", "new", "DefaultPool", "(", "$", "this", "->", "workers", ")", ";", "$", "coroutines", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "combinations", "as", "$", "params", ")", "{", "$", "estimator", "=", "new", "$", "this", "->", "base", "(", "...", "$", "params", ")", ";", "$", "task", "=", "new", "CallableTask", "(", "[", "$", "this", ",", "'score'", "]", ",", "[", "$", "estimator", ",", "$", "dataset", "]", ")", ";", "$", "coroutines", "[", "]", "=", "call", "(", "function", "(", ")", "use", "(", "$", "pool", ",", "$", "task", ",", "$", "params", ")", "{", "$", "score", "=", "yield", "$", "pool", "->", "enqueue", "(", "$", "task", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "constructor", "=", "array_combine", "(", "$", "this", "->", "args", ",", "$", "params", ")", "?", ":", "[", "]", ";", "$", "this", "->", "logger", "->", "info", "(", "'Test complete: '", ".", "Params", "::", "stringify", "(", "[", "Params", "::", "shortName", "(", "$", "this", "->", "metric", ")", "=>", "$", "score", ",", "]", ")", ".", "' Params: '", ".", "Params", "::", "stringify", "(", "$", "constructor", ")", ")", ";", "}", "return", "[", "$", "score", ",", "$", "params", "]", ";", "}", ")", ";", "}", "$", "results", "=", "yield", "all", "(", "$", "coroutines", ")", ";", "return", "yield", "$", "pool", "->", "shutdown", "(", ")", ";", "}", ")", ";", "$", "bestScore", "=", "-", "INF", ";", "$", "bestParams", "=", "[", "]", ";", "foreach", "(", "$", "results", "as", "[", "$", "score", ",", "$", "params", "]", ")", "{", "if", "(", "$", "score", ">", "$", "bestScore", ")", "{", "$", "bestScore", "=", "$", "score", ";", "$", "bestParams", "=", "$", "params", ";", "}", "}", "$", "this", "->", "best", "=", "[", "'score'", "=>", "$", "bestScore", ",", "'params'", "=>", "$", "bestParams", ",", "]", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "constructor", "=", "array_combine", "(", "$", "this", "->", "args", ",", "$", "bestParams", ")", "?", ":", "[", "]", ";", "$", "this", "->", "logger", "->", "info", "(", "'Best params: '", ".", "Params", "::", "stringify", "(", "$", "constructor", ")", ")", ";", "}", "$", "estimator", "=", "new", "$", "this", "->", "base", "(", "...", "$", "bestParams", ")", ";", "$", "estimator", "->", "train", "(", "$", "dataset", ")", ";", "$", "this", "->", "estimator", "=", "$", "estimator", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Training complete'", ")", ";", "}", "}" ]

[ "Train", "one", "estimator", "per", "combination", "of", "parameters", "given", "by", "the", "grid", "and", "assign", "the", "best", "one", "as", "the", "base", "estimator", "of", "this", "instance", "." ]

[ "public", "function", "score", "(", "Learner", "$", "estimator", ",", "Labeled", "$", "dataset", ")", ":", "float", "{", "return", "$", "this", "->", "validator", "->", "test", "(", "$", "estimator", ",", "$", "dataset", ",", "$", "this", "->", "metric", ")", ";", "}" ]

[ "Cross", "validate", "a", "learner", "with", "a", "given", "dataset", "and", "return", "the", "score", "." ]

[ "public", "function", "transform", "(", "array", "&", "$", "samples", ")", ":", "void", "{", "foreach", "(", "$", "samples", "as", "&", "$", "sample", ")", "{", "$", "vectors", "=", "[", "]", ";", "foreach", "(", "$", "sample", "as", "$", "column", "=>", "&", "$", "value", ")", "{", "if", "(", "is_resource", "(", "$", "value", ")", "?", "get_resource_type", "(", "$", "value", ")", "===", "'gd'", ":", "false", ")", "{", "$", "image", "=", "$", "this", "->", "intervention", "->", "make", "(", "$", "value", ")", ";", "$", "resize", "=", "$", "image", "->", "getWidth", "(", ")", "!==", "$", "this", "->", "width", "and", "$", "image", "->", "getHeight", "(", ")", "!==", "$", "this", "->", "height", ";", "if", "(", "$", "resize", ")", "{", "$", "image", "=", "$", "image", "->", "fit", "(", "$", "this", "->", "width", ",", "$", "this", "->", "height", ")", ";", "}", "$", "value", "=", "$", "image", "->", "getCore", "(", ")", ";", "}", "}", "}", "}" ]

[ "Transform", "the", "dataset", "in", "place", "." ]

[ "public", "function", "predict", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "if", "(", "empty", "(", "$", "this", "->", "samples", ")", "or", "empty", "(", "$", "this", "->", "labels", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'Estimator has not been trained.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "$", "predictions", "=", "[", "]", ";", "foreach", "(", "$", "dataset", "as", "$", "sample", ")", "{", "[", "$", "labels", ",", "$", "distances", "]", "=", "$", "this", "->", "nearest", "(", "$", "sample", ")", ";", "if", "(", "$", "this", "->", "weighted", ")", "{", "$", "weights", "=", "[", "]", ";", "foreach", "(", "$", "distances", "as", "$", "i", "=>", "$", "distance", ")", "{", "$", "weights", "[", "]", "=", "1.", "/", "(", "1.", "+", "$", "distance", ")", ";", "}", "$", "outcome", "=", "Stats", "::", "weightedMean", "(", "$", "labels", ",", "$", "weights", ")", ";", "}", "else", "{", "$", "outcome", "=", "Stats", "::", "mean", "(", "$", "labels", ")", ";", "}", "$", "predictions", "[", "]", "=", "$", "outcome", ";", "}", "return", "$", "predictions", ";", "}" ]

[ "Make", "a", "prediction", "based", "on", "the", "nearest", "neighbors", "." ]

[ "public", "function", "generate", "(", "array", "$", "predictions", ",", "array", "$", "labels", ")", ":", "array", "{", "if", "(", "count", "(", "$", "predictions", ")", "!==", "count", "(", "$", "labels", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'The number of labels'", ".", "' must equal the number of predictions.'", ")", ";", "}", "$", "muHat", "=", "Stats", "::", "mean", "(", "$", "labels", ")", ";", "$", "errors", "=", "$", "l1", "=", "$", "l2", "=", "[", "]", ";", "$", "sse", "=", "$", "sst", "=", "0.", ";", "foreach", "(", "$", "predictions", "as", "$", "i", "=>", "$", "prediction", ")", "{", "$", "label", "=", "$", "labels", "[", "$", "i", "]", ";", "$", "errors", "[", "]", "=", "$", "error", "=", "$", "label", "-", "$", "prediction", ";", "$", "l1", "[", "]", "=", "abs", "(", "$", "error", ")", ";", "$", "l2", "[", "]", "=", "$", "t", "=", "$", "error", "**", "2", ";", "$", "sse", "+=", "$", "t", ";", "$", "sst", "+=", "(", "$", "label", "-", "$", "muHat", ")", "**", "2", ";", "}", "[", "$", "mean", ",", "$", "variance", "]", "=", "Stats", "::", "meanVar", "(", "$", "errors", ")", ";", "$", "mse", "=", "Stats", "::", "mean", "(", "$", "l2", ")", ";", "$", "r2", "=", "1.", "-", "(", "$", "sse", "/", "(", "$", "sst", "?", ":", "EPSILON", ")", ")", ";", "return", "[", "'mean_absolute_error'", "=>", "Stats", "::", "mean", "(", "$", "l1", ")", ",", "'median_absolute_error'", "=>", "Stats", "::", "median", "(", "$", "l1", ")", ",", "'mean_squared_error'", "=>", "$", "mse", ",", "'rms_error'", "=>", "sqrt", "(", "$", "mse", ")", ",", "'mean_squared_log_error'", "=>", "log", "(", "$", "mse", ")", ",", "'r_squared'", "=>", "$", "r2", ",", "'error_mean'", "=>", "$", "mean", ",", "'error_variance'", "=>", "$", "variance", ",", "'error_skewness'", "=>", "Stats", "::", "skewness", "(", "$", "errors", ",", "$", "mean", ")", ",", "'error_kurtosis'", "=>", "Stats", "::", "kurtosis", "(", "$", "errors", ",", "$", "mean", ")", ",", "'error_min'", "=>", "min", "(", "$", "errors", ")", ",", "'error_max'", "=>", "max", "(", "$", "errors", ")", ",", "'cardinality'", "=>", "count", "(", "$", "predictions", ")", ",", "]", ";", "}" ]

[ "Generate", "the", "report", "." ]

[ "public", "static", "function", "fromIterator", "(", "iterable", "$", "samples", ",", "iterable", "$", "labels", ")", ":", "self", "{", "$", "samples", "=", "is_array", "(", "$", "samples", ")", "?", "$", "samples", ":", "iterator_to_array", "(", "$", "samples", ",", "false", ")", ";", "$", "labels", "=", "is_array", "(", "$", "labels", ")", "?", "$", "labels", ":", "iterator_to_array", "(", "$", "labels", ",", "false", ")", ";", "return", "self", "::", "build", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Build", "a", "dataset", "from", "an", "iterator", "." ]

[ "public", "static", "function", "stack", "(", "array", "$", "datasets", ")", ":", "self", "{", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "foreach", "(", "$", "datasets", "as", "$", "dataset", ")", "{", "if", "(", "!", "$", "dataset", "instanceof", "self", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Dataset must be'", ".", "' an instance of Labeled, '", ".", "get_class", "(", "$", "dataset", ")", ".", "' given.'", ")", ";", "}", "$", "samples", "=", "array_merge", "(", "$", "samples", ",", "$", "dataset", "->", "samples", "(", ")", ")", ";", "$", "labels", "=", "array_merge", "(", "$", "labels", ",", "$", "dataset", "->", "labels", "(", ")", ")", ";", "}", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Stack", "a", "number", "of", "datasets", "on", "top", "of", "each", "other", "to", "form", "a", "single", "dataset", "." ]

[ "public", "function", "zip", "(", ")", ":", "array", "{", "$", "rows", "=", "$", "this", "->", "samples", ";", "foreach", "(", "$", "rows", "as", "$", "i", "=>", "&", "$", "row", ")", "{", "$", "row", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "return", "$", "rows", ";", "}" ]

[ "Return", "the", "samples", "and", "labels", "in", "a", "single", "array", "." ]

[ "public", "function", "label", "(", "int", "$", "index", ")", "{", "if", "(", "!", "isset", "(", "$", "this", "->", "labels", "[", "$", "index", "]", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "\"Row at offset $index\"", ".", "' does not exist.'", ")", ";", "}", "return", "$", "this", "->", "labels", "[", "$", "index", "]", ";", "}" ]

[ "Return", "a", "label", "given", "by", "row", "index", "." ]

[ "public", "function", "labelType", "(", ")", ":", "?", "int", "{", "if", "(", "!", "isset", "(", "$", "this", "->", "labels", "[", "0", "]", ")", ")", "{", "return", "null", ";", "}", "return", "DataType", "::", "determine", "(", "$", "this", "->", "labels", "[", "0", "]", ")", ";", "}" ]

[ "Return", "the", "integer", "encoded", "data", "type", "of", "the", "label", "or", "null", "if", "empty", "." ]

[ "public", "function", "transformLabels", "(", "callable", "$", "fn", ")", ":", "void", "{", "$", "labels", "=", "array_map", "(", "$", "fn", ",", "$", "this", "->", "labels", ")", ";", "foreach", "(", "$", "labels", "as", "$", "label", ")", "{", "if", "(", "!", "is_string", "(", "$", "label", ")", "and", "!", "is_numeric", "(", "$", "label", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'Label must be a string or'", ".", "' numeric type, '", ".", "gettype", "(", "$", "label", ")", ".", "' found.'", ")", ";", "}", "}", "$", "this", "->", "labels", "=", "$", "labels", ";", "}" ]

[ "Map", "labels", "to", "their", "new", "values", "." ]

[ "public", "function", "head", "(", "int", "$", "n", "=", "10", ")", ":", "self", "{", "$", "samples", "=", "array_slice", "(", "$", "this", "->", "samples", ",", "0", ",", "$", "n", ")", ";", "$", "labels", "=", "array_slice", "(", "$", "this", "->", "labels", ",", "0", ",", "$", "n", ")", ";", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Return", "a", "dataset", "containing", "only", "the", "first", "n", "samples", "." ]

[ "public", "function", "leave", "(", "int", "$", "n", "=", "1", ")", ":", "self", "{", "if", "(", "$", "n", "<", "0", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot leave less than 0 samples.'", ")", ";", "}", "return", "$", "this", "->", "splice", "(", "$", "n", ",", "$", "this", "->", "numRows", "(", ")", ")", ";", "}" ]

[ "Leave", "n", "samples", "and", "labels", "on", "this", "dataset", "and", "return", "the", "rest", "in", "a", "new", "dataset", "." ]

[ "public", "function", "prepend", "(", "Dataset", "$", "dataset", ")", ":", "self", "{", "if", "(", "!", "$", "dataset", "instanceof", "Labeled", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Can only merge with a labeled'", ".", "'dataset.'", ")", ";", "}", "$", "samples", "=", "array_merge", "(", "$", "dataset", "->", "samples", "(", ")", ",", "$", "this", "->", "samples", ")", ";", "$", "labels", "=", "array_merge", "(", "$", "dataset", "->", "labels", "(", ")", ",", "$", "this", "->", "labels", ")", ";", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Prepend", "this", "dataset", "with", "another", "dataset", "." ]

[ "public", "function", "splice", "(", "int", "$", "offset", ",", "int", "$", "n", ")", ":", "self", "{", "$", "samples", "=", "array_splice", "(", "$", "this", "->", "samples", ",", "$", "offset", ",", "$", "n", ")", ";", "$", "labels", "=", "array_splice", "(", "$", "this", "->", "labels", ",", "$", "offset", ",", "$", "n", ")", ";", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Remove", "a", "size", "n", "chunk", "of", "the", "dataset", "starting", "at", "offset", "and", "return", "it", "in", "a", "new", "dataset", "." ]

[ "public", "function", "randomize", "(", ")", ":", "self", "{", "$", "order", "=", "range", "(", "0", ",", "$", "this", "->", "numRows", "(", ")", "-", "1", ")", ";", "shuffle", "(", "$", "order", ")", ";", "array_multisort", "(", "$", "order", ",", "$", "this", "->", "samples", ",", "$", "this", "->", "labels", ")", ";", "return", "$", "this", ";", "}" ]

[ "Randomize", "the", "dataset", "in", "place", "and", "return", "self", "for", "chaining", "." ]

[ "public", "function", "filterByColumn", "(", "int", "$", "index", ",", "callable", "$", "fn", ")", ":", "self", "{", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "if", "(", "$", "fn", "(", "$", "sample", "[", "$", "index", "]", ")", ")", "{", "$", "samples", "[", "]", "=", "$", "sample", ";", "$", "labels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "}", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Run", "a", "filter", "over", "the", "dataset", "using", "the", "values", "of", "a", "given", "column", "." ]

[ "public", "function", "filterByLabel", "(", "callable", "$", "fn", ")", ":", "self", "{", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "labels", "as", "$", "i", "=>", "$", "label", ")", "{", "if", "(", "$", "fn", "(", "$", "label", ")", ")", "{", "$", "samples", "[", "]", "=", "$", "this", "->", "samples", "[", "$", "i", "]", ";", "$", "labels", "[", "]", "=", "$", "label", ";", "}", "}", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Run", "a", "filter", "over", "the", "dataset", "using", "the", "labels", "for", "Decision", "." ]

[ "public", "function", "sortByColumn", "(", "int", "$", "index", ",", "bool", "$", "descending", "=", "false", ")", "{", "$", "order", "=", "$", "this", "->", "column", "(", "$", "index", ")", ";", "array_multisort", "(", "$", "order", ",", "$", "this", "->", "samples", ",", "$", "this", "->", "labels", ",", "$", "descending", "?", "SORT_DESC", ":", "SORT_ASC", ")", ";", "return", "$", "this", ";", "}" ]

[ "Sort", "the", "dataset", "in", "place", "by", "a", "column", "in", "the", "sample", "matrix", "." ]

[ "public", "function", "sortByLabel", "(", "bool", "$", "descending", "=", "false", ")", ":", "Dataset", "{", "array_multisort", "(", "$", "this", "->", "labels", ",", "$", "this", "->", "samples", ",", "$", "descending", "?", "SORT_DESC", ":", "SORT_ASC", ")", ";", "return", "$", "this", ";", "}" ]

[ "Sort", "the", "dataset", "in", "place", "by", "its", "labels", "." ]

[ "public", "function", "stratify", "(", ")", ":", "array", "{", "$", "strata", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "_stratify", "(", ")", "as", "$", "label", "=>", "$", "stratum", ")", "{", "$", "labels", "=", "array_fill", "(", "0", ",", "count", "(", "$", "stratum", ")", ",", "$", "label", ")", ";", "$", "strata", "[", "$", "label", "]", "=", "self", "::", "quick", "(", "$", "stratum", ",", "$", "labels", ")", ";", "}", "return", "$", "strata", ";", "}" ]

[ "Group", "samples", "by", "label", "and", "return", "an", "array", "of", "stratified", "datasets", ".", "i", ".", "e", ".", "n", "datasets", "consisting", "of", "samples", "with", "the", "same", "label", "where", "n", "is", "equal", "to", "the", "number", "of", "unique", "labels", "." ]

[ "public", "function", "split", "(", "float", "$", "ratio", "=", "0.5", ")", ":", "array", "{", "if", "(", "$", "ratio", "<=", "0", "or", "$", "ratio", ">=", "1", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Split ratio must be strictly'", ".", "\" between 0 and 1, $ratio given.\"", ")", ";", "}", "$", "n", "=", "(", "int", ")", "(", "$", "ratio", "*", "$", "this", "->", "numRows", "(", ")", ")", ";", "$", "leftSamples", "=", "array_slice", "(", "$", "this", "->", "samples", ",", "0", ",", "$", "n", ")", ";", "$", "leftLabels", "=", "array_slice", "(", "$", "this", "->", "labels", ",", "0", ",", "$", "n", ")", ";", "$", "rightSamples", "=", "array_slice", "(", "$", "this", "->", "samples", ",", "$", "n", ")", ";", "$", "rightLabels", "=", "array_slice", "(", "$", "this", "->", "labels", ",", "$", "n", ")", ";", "return", "[", "self", "::", "quick", "(", "$", "leftSamples", ",", "$", "leftLabels", ")", ",", "self", "::", "quick", "(", "$", "rightSamples", ",", "$", "rightLabels", ")", ",", "]", ";", "}" ]

[ "Split", "the", "dataset", "into", "two", "subsets", "with", "a", "given", "ratio", "of", "samples", "." ]

[ "public", "function", "stratifiedSplit", "(", "float", "$", "ratio", "=", "0.5", ")", ":", "array", "{", "if", "(", "$", "ratio", "<=", "0.", "or", "$", "ratio", ">=", "1.", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Split ratio must be'", ".", "\" strictly between 0 and 1, $ratio given.\"", ")", ";", "}", "$", "leftSamples", "=", "$", "leftLabels", "=", "$", "rightSamples", "=", "$", "rightLabels", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "_stratify", "(", ")", "as", "$", "label", "=>", "$", "stratum", ")", "{", "$", "n", "=", "(", "int", ")", "floor", "(", "$", "ratio", "*", "count", "(", "$", "stratum", ")", ")", ";", "$", "leftSamples", "=", "array_merge", "(", "$", "leftSamples", ",", "array_splice", "(", "$", "stratum", ",", "0", ",", "$", "n", ")", ")", ";", "$", "leftLabels", "=", "array_merge", "(", "$", "leftLabels", ",", "array_fill", "(", "0", ",", "$", "n", ",", "$", "label", ")", ")", ";", "$", "rightSamples", "=", "array_merge", "(", "$", "rightSamples", ",", "$", "stratum", ")", ";", "$", "rightLabels", "=", "array_merge", "(", "$", "rightLabels", ",", "array_fill", "(", "0", ",", "count", "(", "$", "stratum", ")", ",", "$", "label", ")", ")", ";", "}", "return", "[", "self", "::", "quick", "(", "$", "leftSamples", ",", "$", "leftLabels", ")", ",", "self", "::", "quick", "(", "$", "rightSamples", ",", "$", "rightLabels", ")", ",", "]", ";", "}" ]

[ "Split", "the", "dataset", "into", "two", "stratified", "subsets", "with", "a", "given", "ratio", "of", "samples", "." ]

[ "public", "function", "fold", "(", "int", "$", "k", "=", "10", ")", ":", "array", "{", "if", "(", "$", "k", "<", "2", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot create less than'", ".", "\" 2 folds, $k given.\"", ")", ";", "}", "$", "n", "=", "(", "int", ")", "floor", "(", "$", "this", "->", "numRows", "(", ")", "/", "$", "k", ")", ";", "$", "folds", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "k", ";", "$", "i", "++", ")", "{", "$", "offset", "=", "$", "i", "*", "$", "n", ";", "$", "samples", "=", "array_slice", "(", "$", "this", "->", "samples", ",", "$", "offset", ",", "$", "n", ")", ";", "$", "labels", "=", "array_slice", "(", "$", "this", "->", "labels", ",", "$", "offset", ",", "$", "n", ")", ";", "$", "folds", "[", "]", "=", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}", "return", "$", "folds", ";", "}" ]

[ "Fold", "the", "dataset", "k", "-", "1", "times", "to", "form", "k", "equal", "size", "datasets", "." ]

[ "public", "function", "stratifiedFold", "(", "int", "$", "k", "=", "10", ")", ":", "array", "{", "if", "(", "$", "k", "<", "2", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot create less than'", ".", "\" 2 folds, $k given.\"", ")", ";", "}", "$", "folds", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "k", ";", "$", "i", "++", ")", "{", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "_stratify", "(", ")", "as", "$", "label", "=>", "$", "stratum", ")", "{", "$", "n", "=", "(", "int", ")", "floor", "(", "count", "(", "$", "stratum", ")", "/", "$", "k", ")", ";", "$", "samples", "=", "array_merge", "(", "$", "samples", ",", "array_slice", "(", "$", "stratum", ",", "$", "i", "*", "$", "n", ",", "$", "n", ")", ")", ";", "$", "labels", "=", "array_merge", "(", "$", "labels", ",", "array_fill", "(", "0", ",", "$", "n", ",", "$", "label", ")", ")", ";", "}", "$", "folds", "[", "]", "=", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}", "return", "$", "folds", ";", "}" ]

[ "Fold", "the", "dataset", "into", "k", "equal", "sized", "stratified", "datasets", "." ]

[ "protected", "function", "_stratify", "(", ")", ":", "array", "{", "$", "strata", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "labels", "as", "$", "index", "=>", "$", "label", ")", "{", "$", "strata", "[", "$", "label", "]", "[", "]", "=", "$", "this", "->", "samples", "[", "$", "index", "]", ";", "}", "return", "$", "strata", ";", "}" ]

[ "Stratifying", "subroutine", "groups", "samples", "by", "label", "." ]

[ "public", "function", "batch", "(", "int", "$", "n", "=", "50", ")", ":", "array", "{", "$", "sChunks", "=", "array_chunk", "(", "$", "this", "->", "samples", ",", "$", "n", ")", ";", "$", "lChunks", "=", "array_chunk", "(", "$", "this", "->", "labels", ",", "$", "n", ")", ";", "$", "batches", "=", "[", "]", ";", "foreach", "(", "$", "sChunks", "as", "$", "i", "=>", "$", "samples", ")", "{", "$", "batches", "[", "]", "=", "self", "::", "quick", "(", "$", "samples", ",", "$", "lChunks", "[", "$", "i", "]", ")", ";", "}", "return", "$", "batches", ";", "}" ]

[ "Generate", "a", "collection", "of", "batches", "of", "size", "n", "from", "the", "dataset", ".", "If", "there", "are", "not", "enough", "samples", "to", "fill", "an", "entire", "batch", "then", "the", "dataset", "will", "contain", "as", "many", "samples", "and", "labels", "as", "possible", "." ]

[ "public", "function", "partition", "(", "int", "$", "column", ",", "$", "value", ")", ":", "array", "{", "if", "(", "!", "is_string", "(", "$", "value", ")", "and", "!", "is_numeric", "(", "$", "value", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Value must be a string or'", ".", "' numeric type, '", ".", "gettype", "(", "$", "value", ")", ".", "' given.'", ")", ";", "}", "$", "leftSamples", "=", "$", "leftLabels", "=", "$", "rightSamples", "=", "$", "rightLabels", "=", "[", "]", ";", "if", "(", "$", "this", "->", "columnType", "(", "$", "column", ")", "===", "DataType", "::", "CATEGORICAL", ")", "{", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "if", "(", "$", "sample", "[", "$", "column", "]", "===", "$", "value", ")", "{", "$", "leftSamples", "[", "]", "=", "$", "sample", ";", "$", "leftLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "else", "{", "$", "rightSamples", "[", "]", "=", "$", "sample", ";", "$", "rightLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "}", "}", "else", "{", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "if", "(", "$", "sample", "[", "$", "column", "]", "<", "$", "value", ")", "{", "$", "leftSamples", "[", "]", "=", "$", "sample", ";", "$", "leftLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "else", "{", "$", "rightSamples", "[", "]", "=", "$", "sample", ";", "$", "rightLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "}", "}", "return", "[", "self", "::", "quick", "(", "$", "leftSamples", ",", "$", "leftLabels", ")", ",", "self", "::", "quick", "(", "$", "rightSamples", ",", "$", "rightLabels", ")", ",", "]", ";", "}" ]

[ "Partition", "the", "dataset", "into", "left", "and", "right", "subsets", "by", "a", "specified", "feature", "column", ".", "The", "dataset", "is", "split", "such", "that", "for", "categorical", "values", "the", "left", "subset", "contains", "all", "samples", "that", "match", "the", "value", "and", "the", "right", "side", "contains", "samples", "that", "do", "not", "match", ".", "For", "continuous", "values", "the", "left", "side", "contains", "all", "the", "samples", "that", "are", "less", "than", "the", "target", "value", "and", "the", "right", "side", "contains", "the", "samples", "that", "are", "greater", "than", "or", "equal", "to", "the", "value", "." ]

[ "public", "function", "spatialPartition", "(", "array", "$", "leftCentroid", ",", "array", "$", "rightCentroid", ",", "Distance", "$", "kernel", ")", "{", "if", "(", "count", "(", "$", "leftCentroid", ")", "!==", "count", "(", "$", "rightCentroid", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Dimensionality mismatch between'", ".", "' left and right centroids.'", ")", ";", "}", "$", "leftSamples", "=", "$", "leftLabels", "=", "$", "rightSamples", "=", "$", "rightLabels", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "samples", "as", "$", "i", "=>", "$", "sample", ")", "{", "$", "lHat", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "leftCentroid", ")", ";", "$", "rHat", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "rightCentroid", ")", ";", "if", "(", "$", "lHat", "<", "$", "rHat", ")", "{", "$", "leftSamples", "[", "]", "=", "$", "sample", ";", "$", "leftLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "else", "{", "$", "rightSamples", "[", "]", "=", "$", "sample", ";", "$", "rightLabels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "i", "]", ";", "}", "}", "return", "[", "self", "::", "quick", "(", "$", "leftSamples", ",", "$", "leftLabels", ")", ",", "self", "::", "quick", "(", "$", "rightSamples", ",", "$", "rightLabels", ")", ",", "]", ";", "}" ]

[ "Partition", "the", "dataset", "into", "left", "and", "right", "subsets", "based", "on", "their", "distance", "between", "two", "centroids", "." ]

[ "public", "function", "randomSubsetWithReplacement", "(", "int", "$", "n", ")", ":", "self", "{", "if", "(", "$", "n", "<", "1", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot generate a'", ".", "\" subset of less than 1 sample, $n given.\"", ")", ";", "}", "$", "max", "=", "$", "this", "->", "numRows", "(", ")", "-", "1", ";", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "n", ";", "$", "i", "++", ")", "{", "$", "index", "=", "rand", "(", "0", ",", "$", "max", ")", ";", "$", "samples", "[", "]", "=", "$", "this", "->", "samples", "[", "$", "index", "]", ";", "$", "labels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "index", "]", ";", "}", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Generate", "a", "random", "subset", "with", "replacement", "." ]

[ "public", "function", "randomWeightedSubsetWithReplacement", "(", "int", "$", "n", ",", "array", "$", "weights", ")", ":", "self", "{", "if", "(", "$", "n", "<", "1", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Cannot generate a'", ".", "\" subset of less than 1 sample, $n given.\"", ")", ";", "}", "if", "(", "count", "(", "$", "weights", ")", "!==", "count", "(", "$", "this", "->", "samples", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'The number of weights'", ".", "' must be equal to the number of samples in the'", ".", "' dataset, '", ".", "count", "(", "$", "this", "->", "samples", ")", ".", "' needed'", ".", "' but '", ".", "count", "(", "$", "weights", ")", ".", "' given.'", ")", ";", "}", "$", "total", "=", "array_sum", "(", "$", "weights", ")", ";", "$", "max", "=", "(", "int", ")", "round", "(", "$", "total", "*", "self", "::", "PHI", ")", ";", "$", "samples", "=", "$", "labels", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "n", ";", "$", "i", "++", ")", "{", "$", "delta", "=", "rand", "(", "0", ",", "$", "max", ")", "/", "self", "::", "PHI", ";", "foreach", "(", "$", "weights", "as", "$", "index", "=>", "$", "weight", ")", "{", "$", "delta", "-=", "$", "weight", ";", "if", "(", "$", "delta", "<=", "0.", ")", "{", "$", "samples", "[", "]", "=", "$", "this", "->", "samples", "[", "$", "index", "]", ";", "$", "labels", "[", "]", "=", "$", "this", "->", "labels", "[", "$", "index", "]", ";", "break", "1", ";", "}", "}", "}", "return", "self", "::", "quick", "(", "$", "samples", ",", "$", "labels", ")", ";", "}" ]

[ "Generate", "a", "random", "weighted", "subset", "with", "replacement", "." ]

[ "public", "function", "predict", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "if", "(", "$", "this", "->", "tree", "->", "bare", "(", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'The learner has not'", ".", "' been trained.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "$", "predictions", "=", "[", "]", ";", "foreach", "(", "$", "dataset", "as", "$", "sample", ")", "{", "[", "$", "samples", ",", "$", "labels", ",", "$", "distances", "]", "=", "$", "this", "->", "tree", "->", "range", "(", "$", "sample", ",", "$", "this", "->", "radius", ")", ";", "if", "(", "empty", "(", "$", "labels", ")", ")", "{", "$", "predictions", "[", "]", "=", "self", "::", "OUTLIER", ";", "continue", "1", ";", "}", "if", "(", "$", "this", "->", "weighted", ")", "{", "$", "weights", "=", "array_fill_keys", "(", "$", "labels", ",", "0.", ")", ";", "foreach", "(", "$", "labels", "as", "$", "i", "=>", "$", "label", ")", "{", "$", "weights", "[", "$", "label", "]", "+=", "1.", "/", "(", "1.", "+", "$", "distances", "[", "$", "i", "]", ")", ";", "}", "}", "else", "{", "$", "weights", "=", "array_count_values", "(", "$", "labels", ")", ";", "}", "$", "predictions", "[", "]", "=", "argmax", "(", "$", "weights", ")", ";", "}", "return", "$", "predictions", ";", "}" ]

[ "Make", "predictions", "from", "a", "dataset", "." ]

[ "public", "function", "step", "(", "Parameter", "$", "param", ",", "Tensor", "$", "gradient", ")", ":", "void", "{", "$", "g2", "=", "$", "this", "->", "cache", "[", "$", "param", "->", "id", "(", ")", "]", ";", "$", "g2", "=", "$", "g2", "->", "multiply", "(", "$", "this", "->", "decay", ")", "->", "add", "(", "$", "gradient", "->", "square", "(", ")", "->", "multiply", "(", "1.", "-", "$", "this", "->", "decay", ")", ")", ";", "$", "this", "->", "cache", "[", "$", "param", "->", "id", "(", ")", "]", "=", "$", "g2", ";", "$", "step", "=", "$", "gradient", "->", "multiply", "(", "$", "this", "->", "rate", ")", "->", "divide", "(", "$", "g2", "->", "sqrt", "(", ")", "->", "clipLower", "(", "EPSILON", ")", ")", ";", "$", "param", "->", "update", "(", "$", "step", ")", ";", "}" ]

[ "Take", "a", "step", "of", "gradient", "descent", "for", "a", "given", "parameter", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Learner init '", ".", "Params", "::", "stringify", "(", "[", "'c'", "=>", "$", "this", "->", "c", ",", "'fuzz'", "=>", "$", "this", "->", "fuzz", ",", "'kernel'", "=>", "$", "this", "->", "kernel", ",", "'epochs'", "=>", "$", "this", "->", "epochs", ",", "'min_change'", "=>", "$", "this", "->", "minChange", ",", "'seeder'", "=>", "$", "this", "->", "seeder", ",", "]", ")", ")", ";", "}", "$", "this", "->", "centroids", "=", "$", "this", "->", "seeder", "->", "seed", "(", "$", "dataset", ",", "$", "this", "->", "c", ")", ";", "$", "this", "->", "steps", "=", "$", "memberships", "=", "[", "]", ";", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "rotated", "=", "$", "dataset", "->", "columns", "(", ")", ";", "$", "previous", "=", "INF", ";", "for", "(", "$", "epoch", "=", "1", ";", "$", "epoch", "<=", "$", "this", "->", "epochs", ";", "$", "epoch", "++", ")", "{", "$", "memberships", "=", "array_map", "(", "[", "self", "::", "class", ",", "'membership'", "]", ",", "$", "samples", ")", ";", "foreach", "(", "$", "this", "->", "centroids", "as", "$", "cluster", "=>", "&", "$", "centroid", ")", "{", "foreach", "(", "$", "rotated", "as", "$", "column", "=>", "$", "values", ")", "{", "$", "sigma", "=", "$", "total", "=", "0.", ";", "foreach", "(", "$", "memberships", "as", "$", "i", "=>", "$", "probabilities", ")", "{", "$", "weight", "=", "$", "probabilities", "[", "$", "cluster", "]", "**", "$", "this", "->", "fuzz", ";", "$", "sigma", "+=", "$", "weight", "*", "$", "values", "[", "$", "i", "]", ";", "$", "total", "+=", "$", "weight", ";", "}", "$", "centroid", "[", "$", "column", "]", "=", "$", "sigma", "/", "(", "$", "total", "?", ":", "EPSILON", ")", ";", "}", "}", "$", "inertia", "=", "$", "this", "->", "inertia", "(", "$", "dataset", ",", "$", "memberships", ")", ";", "$", "this", "->", "steps", "[", "]", "=", "$", "inertia", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "\"Epoch $epoch complete, inertia=$inertia\"", ")", ";", "}", "if", "(", "is_nan", "(", "$", "inertia", ")", ")", "{", "break", "1", ";", "}", "if", "(", "abs", "(", "$", "previous", "-", "$", "inertia", ")", "<", "$", "this", "->", "minChange", ")", "{", "break", "1", ";", "}", "$", "previous", "=", "$", "inertia", ";", "}", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Training complete'", ")", ";", "}", "}" ]

[ "Train", "the", "learner", "with", "a", "dataset", "." ]

[ "protected", "function", "membership", "(", "array", "$", "sample", ")", ":", "array", "{", "$", "membership", "=", "$", "deltas", "=", "[", "]", ";", "foreach", "(", "$", "this", "->", "centroids", "as", "$", "centroid", ")", "{", "$", "deltas", "[", "]", "=", "$", "this", "->", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "centroid", ")", ";", "}", "foreach", "(", "$", "this", "->", "centroids", "as", "$", "cluster", "=>", "$", "centroid", ")", "{", "$", "alpha", "=", "$", "this", "->", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "centroid", ")", ";", "$", "sigma", "=", "0.", ";", "foreach", "(", "$", "deltas", "as", "$", "delta", ")", "{", "$", "sigma", "+=", "(", "$", "alpha", "/", "(", "$", "delta", "?", ":", "EPSILON", ")", ")", "**", "$", "this", "->", "lambda", ";", "}", "$", "membership", "[", "$", "cluster", "]", "=", "1.", "/", "(", "$", "sigma", "?", ":", "EPSILON", ")", ";", "}", "return", "$", "membership", ";", "}" ]

[ "Return", "the", "membership", "of", "a", "sample", "to", "each", "of", "the", "c", "centroids", "." ]

[ "protected", "function", "inertia", "(", "Dataset", "$", "dataset", ",", "array", "$", "memberships", ")", ":", "float", "{", "$", "inertia", "=", "0.", ";", "foreach", "(", "$", "dataset", "as", "$", "i", "=>", "$", "sample", ")", "{", "$", "membership", "=", "$", "memberships", "[", "$", "i", "]", ";", "foreach", "(", "$", "this", "->", "centroids", "as", "$", "cluster", "=>", "$", "centroid", ")", "{", "$", "inertia", "+=", "$", "membership", "[", "$", "cluster", "]", "*", "$", "this", "->", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "centroid", ")", ";", "}", "}", "return", "$", "inertia", ";", "}" ]

[ "Calculate", "the", "sum", "of", "distances", "between", "all", "samples", "and", "their", "closest", "centroid", "." ]

[ "public", "function", "generate", "(", "array", "$", "predictions", ",", "array", "$", "labels", ")", ":", "array", "{", "$", "n", "=", "count", "(", "$", "predictions", ")", ";", "if", "(", "$", "n", "!==", "count", "(", "$", "labels", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'The number of labels'", ".", "' must equal the number of predictions.'", ")", ";", "}", "$", "classes", "=", "array_unique", "(", "array_merge", "(", "$", "predictions", ",", "$", "labels", ")", ")", ";", "$", "k", "=", "count", "(", "$", "classes", ")", ";", "$", "truePos", "=", "$", "trueNeg", "=", "$", "falsePos", "=", "$", "falseNeg", "=", "array_fill_keys", "(", "$", "classes", ",", "0", ")", ";", "foreach", "(", "$", "predictions", "as", "$", "i", "=>", "$", "prediction", ")", "{", "$", "label", "=", "$", "labels", "[", "$", "i", "]", ";", "if", "(", "$", "prediction", "===", "$", "label", ")", "{", "$", "truePos", "[", "$", "prediction", "]", "++", ";", "foreach", "(", "$", "classes", "as", "$", "class", ")", "{", "if", "(", "$", "class", "!==", "$", "prediction", ")", "{", "$", "trueNeg", "[", "$", "class", "]", "++", ";", "}", "}", "}", "else", "{", "$", "falsePos", "[", "$", "prediction", "]", "++", ";", "$", "falseNeg", "[", "$", "label", "]", "++", ";", "}", "}", "$", "averages", "=", "array_fill_keys", "(", "[", "'accuracy'", ",", "'precision'", ",", "'recall'", ",", "'specificity'", ",", "'negative_predictive_value'", ",", "'false_discovery_rate'", ",", "'miss_rate'", ",", "'fall_out'", ",", "'false_omission_rate'", ",", "'f1_score'", ",", "'mcc'", ",", "'informedness'", ",", "'markedness'", ",", "]", ",", "0.", ")", ";", "$", "counts", "=", "array_fill_keys", "(", "[", "'true_positives'", ",", "'true_negatives'", ",", "'false_positives'", ",", "'false_negatives'", ",", "]", ",", "0", ")", ";", "$", "overall", "=", "array_replace", "(", "$", "averages", ",", "$", "counts", ")", ";", "$", "table", "=", "[", "]", ";", "foreach", "(", "$", "truePos", "as", "$", "label", "=>", "$", "tp", ")", "{", "$", "tn", "=", "$", "trueNeg", "[", "$", "label", "]", ";", "$", "fp", "=", "$", "falsePos", "[", "$", "label", "]", ";", "$", "fn", "=", "$", "falseNeg", "[", "$", "label", "]", ";", "$", "accuracy", "=", "(", "$", "tp", "+", "$", "tn", ")", "/", "(", "$", "tp", "+", "$", "tn", "+", "$", "fp", "+", "$", "fn", ")", ";", "$", "precision", "=", "$", "tp", "/", "(", "(", "$", "tp", "+", "$", "fp", ")", "?", ":", "EPSILON", ")", ";", "$", "recall", "=", "$", "tp", "/", "(", "(", "$", "tp", "+", "$", "fn", ")", "?", ":", "EPSILON", ")", ";", "$", "specificity", "=", "$", "tn", "/", "(", "(", "$", "tn", "+", "$", "fp", ")", "?", ":", "EPSILON", ")", ";", "$", "npv", "=", "$", "tn", "/", "(", "(", "$", "tn", "+", "$", "fn", ")", "?", ":", "EPSILON", ")", ";", "$", "cardinality", "=", "$", "tp", "+", "$", "fn", ";", "$", "f1score", "=", "2.", "*", "(", "(", "$", "precision", "*", "$", "recall", ")", ")", "/", "(", "(", "$", "precision", "+", "$", "recall", ")", "?", ":", "EPSILON", ")", ";", "$", "mcc", "=", "(", "$", "tp", "*", "$", "tn", "-", "$", "fp", "*", "$", "fn", ")", "/", "sqrt", "(", "(", "(", "$", "tp", "+", "$", "fp", ")", "*", "(", "$", "tp", "+", "$", "fn", ")", "*", "(", "$", "tn", "+", "$", "fp", ")", "*", "(", "$", "tn", "+", "$", "fn", ")", ")", "?", ":", "EPSILON", ")", ";", "$", "metrics", "=", "[", "]", ";", "$", "metrics", "[", "'accuracy'", "]", "=", "$", "accuracy", ";", "$", "metrics", "[", "'precision'", "]", "=", "$", "precision", ";", "$", "metrics", "[", "'recall'", "]", "=", "$", "recall", ";", "$", "metrics", "[", "'specificity'", "]", "=", "$", "specificity", ";", "$", "metrics", "[", "'negative_predictive_value'", "]", "=", "$", "npv", ";", "$", "metrics", "[", "'false_discovery_rate'", "]", "=", "1.", "-", "$", "precision", ";", "$", "metrics", "[", "'miss_rate'", "]", "=", "1.", "-", "$", "recall", ";", "$", "metrics", "[", "'fall_out'", "]", "=", "1.", "-", "$", "specificity", ";", "$", "metrics", "[", "'false_omission_rate'", "]", "=", "1.", "-", "$", "npv", ";", "$", "metrics", "[", "'f1_score'", "]", "=", "$", "f1score", ";", "$", "metrics", "[", "'mcc'", "]", "=", "$", "mcc", ";", "$", "metrics", "[", "'informedness'", "]", "=", "$", "recall", "+", "$", "specificity", "-", "1.", ";", "$", "metrics", "[", "'markedness'", "]", "=", "$", "precision", "+", "$", "npv", "-", "1.", ";", "$", "metrics", "[", "'true_positives'", "]", "=", "$", "tp", ";", "$", "metrics", "[", "'true_negatives'", "]", "=", "$", "tn", ";", "$", "metrics", "[", "'false_positives'", "]", "=", "$", "fp", ";", "$", "metrics", "[", "'false_negatives'", "]", "=", "$", "fn", ";", "$", "metrics", "[", "'cardinality'", "]", "=", "$", "cardinality", ";", "$", "metrics", "[", "'density'", "]", "=", "$", "cardinality", "/", "$", "n", ";", "$", "table", "[", "$", "label", "]", "=", "$", "metrics", ";", "$", "overall", "[", "'accuracy'", "]", "+=", "$", "accuracy", ";", "$", "overall", "[", "'precision'", "]", "+=", "$", "precision", ";", "$", "overall", "[", "'recall'", "]", "+=", "$", "recall", ";", "$", "overall", "[", "'specificity'", "]", "+=", "$", "specificity", ";", "$", "overall", "[", "'negative_predictive_value'", "]", "+=", "$", "npv", ";", "$", "overall", "[", "'false_discovery_rate'", "]", "+=", "1.", "-", "$", "precision", ";", "$", "overall", "[", "'miss_rate'", "]", "+=", "1.", "-", "$", "recall", ";", "$", "overall", "[", "'fall_out'", "]", "+=", "1.", "-", "$", "specificity", ";", "$", "overall", "[", "'false_omission_rate'", "]", "+=", "1.", "-", "$", "npv", ";", "$", "overall", "[", "'f1_score'", "]", "+=", "$", "f1score", ";", "$", "overall", "[", "'mcc'", "]", "+=", "$", "mcc", ";", "$", "overall", "[", "'informedness'", "]", "+=", "$", "recall", "+", "$", "specificity", "-", "1.", ";", "$", "overall", "[", "'markedness'", "]", "+=", "$", "precision", "+", "$", "npv", "-", "1.", ";", "$", "overall", "[", "'true_positives'", "]", "+=", "$", "tp", ";", "$", "overall", "[", "'true_negatives'", "]", "+=", "$", "tn", ";", "$", "overall", "[", "'false_positives'", "]", "+=", "$", "fp", ";", "$", "overall", "[", "'false_negatives'", "]", "+=", "$", "fn", ";", "}", "foreach", "(", "array_keys", "(", "$", "averages", ")", "as", "$", "metric", ")", "{", "$", "overall", "[", "$", "metric", "]", "/=", "$", "k", ";", "}", "$", "overall", "[", "'cardinality'", "]", "=", "$", "n", ";", "return", "[", "'overall'", "=>", "$", "overall", ",", "'label'", "=>", "$", "table", ",", "]", ";", "}" ]

[ "Generate", "the", "report", "." ]

[ "public", "static", "function", "split", "(", "Dataset", "$", "dataset", ",", "Distance", "$", "kernel", ")", ":", "self", "{", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "center", "=", "Matrix", "::", "quick", "(", "$", "samples", ")", "->", "transpose", "(", ")", "->", "mean", "(", ")", "->", "asArray", "(", ")", ";", "$", "distances", "=", "[", "]", ";", "foreach", "(", "$", "samples", "as", "$", "sample", ")", "{", "$", "distances", "[", "]", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "center", ")", ";", "}", "$", "radius", "=", "max", "(", "$", "distances", ")", ";", "$", "leftCentroid", "=", "$", "dataset", "->", "row", "(", "argmax", "(", "$", "distances", ")", ")", ";", "$", "distances", "=", "[", "]", ";", "foreach", "(", "$", "samples", "as", "$", "sample", ")", "{", "$", "distances", "[", "]", "=", "$", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "leftCentroid", ")", ";", "}", "$", "rightCentroid", "=", "$", "dataset", "->", "row", "(", "argmax", "(", "$", "distances", ")", ")", ";", "$", "subsets", "=", "$", "dataset", "->", "spatialPartition", "(", "$", "leftCentroid", ",", "$", "rightCentroid", ",", "$", "kernel", ")", ";", "return", "new", "self", "(", "$", "center", ",", "$", "radius", ",", "$", "subsets", ")", ";", "}" ]

[ "Factory", "method", "to", "build", "a", "centroid", "node", "from", "a", "labeled", "dataset", "using", "the", "column", "with", "the", "highest", "variance", "as", "the", "column", "for", "the", "split", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "if", "(", "!", "$", "dataset", "instanceof", "Labeled", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'This estimator requires a'", ".", "' labeled training set.'", ")", ";", "}", "$", "this", "->", "strategy", "->", "fit", "(", "$", "dataset", "->", "labels", "(", ")", ")", ";", "$", "this", "->", "trained", "=", "true", ";", "}" ]

[ "Fit", "the", "training", "set", "to", "the", "given", "guessing", "strategy", "." ]

[ "public", "function", "predict", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "if", "(", "!", "$", "this", "->", "trained", ")", "{", "throw", "new", "RuntimeException", "(", "'The learner has not'", ".", "' been trained.'", ")", ";", "}", "$", "n", "=", "$", "dataset", "->", "numRows", "(", ")", ";", "$", "predictions", "=", "[", "]", ";", "for", "(", "$", "i", "=", "0", ";", "$", "i", "<", "$", "n", ";", "$", "i", "++", ")", "{", "$", "predictions", "[", "]", "=", "$", "this", "->", "strategy", "->", "guess", "(", ")", ";", "}", "return", "$", "predictions", ";", "}" ]

[ "Make", "a", "prediction", "of", "a", "given", "sample", "dataset", "." ]

[ "public", "function", "trained", "(", ")", ":", "bool", "{", "return", "(", "$", "this", "->", "estimator", "instanceof", "Learner", "and", "$", "this", "->", "estimator", "->", "trained", "(", ")", "and", "$", "this", "->", "fitted", ")", "or", "$", "this", "->", "fitted", ";", "}" ]

[ "Has", "the", "learner", "been", "trained?" ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "$", "this", "->", "fit", "(", "$", "dataset", ")", ";", "if", "(", "$", "this", "->", "estimator", "instanceof", "Learner", ")", "{", "$", "this", "->", "estimator", "->", "train", "(", "$", "dataset", ")", ";", "}", "$", "this", "->", "fitted", "=", "true", ";", "}" ]

[ "Run", "the", "training", "dataset", "through", "all", "transformers", "in", "order", "and", "use", "the", "transformed", "dataset", "to", "train", "the", "estimator", "." ]

[ "public", "function", "partial", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "if", "(", "$", "this", "->", "elastic", ")", "{", "$", "this", "->", "update", "(", "$", "dataset", ")", ";", "}", "if", "(", "$", "this", "->", "estimator", "instanceof", "Online", ")", "{", "$", "this", "->", "estimator", "->", "partial", "(", "$", "dataset", ")", ";", "}", "}" ]

[ "Perform", "a", "partial", "train", "." ]

[ "public", "function", "predict", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "$", "this", "->", "preprocess", "(", "$", "dataset", ")", ";", "return", "$", "this", "->", "estimator", "->", "predict", "(", "$", "dataset", ")", ";", "}" ]

[ "Preprocess", "the", "dataset", "and", "return", "predictions", "from", "the", "estimator", "." ]

[ "public", "function", "proba", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "$", "base", "=", "$", "this", "->", "base", "(", ")", ";", "if", "(", "$", "base", "instanceof", "Probabilistic", ")", "{", "$", "this", "->", "preprocess", "(", "$", "dataset", ")", ";", "return", "$", "base", "->", "proba", "(", "$", "dataset", ")", ";", "}", "throw", "new", "RuntimeException", "(", "'Base estimator must'", ".", "' implement the probabilistic interface.'", ")", ";", "}" ]

[ "Estimate", "probabilities", "for", "each", "possible", "outcome", "." ]

[ "protected", "function", "fit", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "foreach", "(", "$", "this", "->", "transformers", "as", "$", "transformer", ")", "{", "if", "(", "$", "transformer", "instanceof", "Stateful", ")", "{", "$", "transformer", "->", "fit", "(", "$", "dataset", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Fitted '", ".", "Params", "::", "shortName", "(", "$", "transformer", ")", ")", ";", "}", "}", "$", "dataset", "->", "apply", "(", "$", "transformer", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Applied '", ".", "Params", "::", "shortName", "(", "$", "transformer", ")", ")", ";", "}", "}", "}" ]

[ "Fit", "the", "transformer", "middelware", "to", "a", "dataset", "." ]

[ "protected", "function", "update", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "foreach", "(", "$", "this", "->", "transformers", "as", "$", "transformer", ")", "{", "if", "(", "$", "transformer", "instanceof", "Elastic", ")", "{", "$", "transformer", "->", "update", "(", "$", "dataset", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Updated '", ".", "Params", "::", "shortName", "(", "$", "transformer", ")", ")", ";", "}", "}", "$", "dataset", "->", "apply", "(", "$", "transformer", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Applied '", ".", "Params", "::", "shortName", "(", "$", "transformer", ")", ")", ";", "}", "}", "}" ]

[ "Update", "the", "fitting", "of", "the", "transformer", "middleware", "." ]

[ "protected", "function", "preprocess", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "foreach", "(", "$", "this", "->", "transformers", "as", "$", "transformer", ")", "{", "$", "dataset", "->", "apply", "(", "$", "transformer", ")", ";", "}", "}" ]

[ "Apply", "the", "transformer", "middleware", "over", "a", "dataset", "." ]

[ "public", "function", "children", "(", ")", ":", "Generator", "{", "if", "(", "$", "this", "->", "left", ")", "{", "yield", "$", "this", "->", "left", ";", "}", "if", "(", "$", "this", "->", "right", ")", "{", "yield", "$", "this", "->", "right", ";", "}", "}" ]

[ "Return", "the", "children", "of", "this", "node", "in", "an", "array", "." ]

[ "public", "function", "height", "(", ")", ":", "int", "{", "return", "1", "+", "max", "(", "$", "this", "->", "left", "?", "$", "this", "->", "left", "->", "height", "(", ")", ":", "0", ",", "$", "this", "->", "right", "?", "$", "this", "->", "right", "->", "height", "(", ")", ":", "0", ")", ";", "}" ]

[ "Recursive", "function", "to", "determine", "the", "height", "of", "the", "node", "." ]

[ "public", "function", "balance", "(", ")", ":", "int", "{", "return", "(", "$", "this", "->", "right", "?", "$", "this", "->", "right", "->", "height", "(", ")", ":", "0", ")", "-", "(", "$", "this", "->", "left", "?", "$", "this", "->", "left", "->", "height", "(", ")", ":", "0", ")", ";", "}" ]

[ "The", "balance", "factor", "of", "the", "node", ".", "Negative", "numbers", "indicate", "a", "lean", "to", "the", "left", "positive", "to", "the", "right", "and", "0", "is", "perfectly", "balanced", "." ]

[ "public", "function", "attachLeft", "(", "BinaryNode", "$", "node", ")", ":", "void", "{", "$", "node", "->", "setParent", "(", "$", "this", ")", ";", "$", "this", "->", "left", "=", "$", "node", ";", "}" ]

[ "Set", "the", "left", "child", "node", "." ]

[ "public", "function", "attachRight", "(", "BinaryNode", "$", "node", ")", ":", "void", "{", "$", "node", "->", "setParent", "(", "$", "this", ")", ";", "$", "this", "->", "right", "=", "$", "node", ";", "}" ]

[ "Set", "the", "right", "child", "node", "." ]

[ "public", "function", "detachLeft", "(", ")", ":", "void", "{", "if", "(", "$", "this", "->", "left", ")", "{", "$", "this", "->", "left", "->", "setParent", "(", "null", ")", ";", "$", "this", "->", "left", "=", "null", ";", "}", "}" ]

[ "Detach", "the", "left", "child", "node", "." ]

[ "public", "function", "detachRight", "(", ")", ":", "void", "{", "if", "(", "$", "this", "->", "right", ")", "{", "$", "this", "->", "right", "->", "setParent", "(", "null", ")", ";", "$", "this", "->", "right", "=", "null", ";", "}", "}" ]

[ "Detach", "the", "right", "child", "node", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "$", "this", "->", "centroids", "=", "$", "this", "->", "seeder", "->", "seed", "(", "$", "dataset", ",", "$", "this", "->", "k", ")", ";", "$", "sizes", "=", "array_fill", "(", "1", ",", "$", "this", "->", "k", ",", "0", ")", ";", "$", "sizes", "[", "0", "]", "=", "$", "dataset", "->", "numRows", "(", ")", ";", "$", "this", "->", "sizes", "=", "$", "sizes", ";", "$", "this", "->", "steps", "=", "[", "]", ";", "$", "this", "->", "partial", "(", "$", "dataset", ")", ";", "}" ]

[ "Train", "the", "learner", "with", "a", "dataset", "." ]

[ "public", "function", "partial", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "if", "(", "empty", "(", "$", "this", "->", "centroids", ")", "or", "empty", "(", "$", "this", "->", "sizes", ")", ")", "{", "$", "this", "->", "train", "(", "$", "dataset", ")", ";", "return", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Learner init '", ".", "Params", "::", "stringify", "(", "[", "'k'", "=>", "$", "this", "->", "k", ",", "'batch_size'", "=>", "$", "this", "->", "batchSize", ",", "'kernel'", "=>", "$", "this", "->", "kernel", ",", "'epochs'", "=>", "$", "this", "->", "epochs", ",", "'min_change'", "=>", "$", "this", "->", "minChange", ",", "'seeder'", "=>", "$", "this", "->", "seeder", ",", "]", ")", ")", ";", "}", "$", "n", "=", "$", "dataset", "->", "numRows", "(", ")", ";", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "labels", "=", "array_fill", "(", "0", ",", "$", "n", ",", "0", ")", ";", "$", "order", "=", "range", "(", "0", ",", "$", "n", "-", "1", ")", ";", "$", "randomize", "=", "$", "n", ">", "$", "this", "->", "batchSize", "?", "true", ":", "false", ";", "$", "previous", "=", "INF", ";", "for", "(", "$", "epoch", "=", "1", ";", "$", "epoch", "<=", "$", "this", "->", "epochs", ";", "$", "epoch", "++", ")", "{", "if", "(", "$", "randomize", ")", "{", "shuffle", "(", "$", "order", ")", ";", "array_multisort", "(", "$", "order", ",", "$", "samples", ",", "$", "labels", ")", ";", "}", "$", "sBatches", "=", "array_chunk", "(", "$", "samples", ",", "$", "this", "->", "batchSize", ",", "true", ")", ";", "$", "lBatches", "=", "array_chunk", "(", "$", "labels", ",", "$", "this", "->", "batchSize", ",", "true", ")", ";", "foreach", "(", "$", "sBatches", "as", "$", "i", "=>", "$", "batch", ")", "{", "$", "assignments", "=", "array_map", "(", "[", "self", "::", "class", ",", "'assign'", "]", ",", "$", "batch", ")", ";", "$", "lHat", "=", "$", "lBatches", "[", "$", "i", "]", ";", "foreach", "(", "$", "assignments", "as", "$", "j", "=>", "$", "cluster", ")", "{", "$", "expected", "=", "$", "lHat", "[", "$", "j", "]", ";", "if", "(", "$", "cluster", "!==", "$", "expected", ")", "{", "$", "labels", "[", "$", "j", "]", "=", "$", "cluster", ";", "$", "this", "->", "sizes", "[", "$", "expected", "]", "--", ";", "$", "this", "->", "sizes", "[", "$", "cluster", "]", "++", ";", "}", "}", "$", "strata", "=", "Labeled", "::", "quick", "(", "$", "batch", ",", "$", "lHat", ")", "->", "stratify", "(", ")", ";", "foreach", "(", "$", "strata", "as", "$", "cluster", "=>", "$", "stratum", ")", "{", "$", "centroid", "=", "$", "this", "->", "centroids", "[", "$", "cluster", "]", ";", "$", "size", "=", "$", "this", "->", "sizes", "[", "$", "cluster", "]", ";", "$", "step", "=", "Matrix", "::", "quick", "(", "$", "stratum", "->", "samples", "(", ")", ")", "->", "transpose", "(", ")", "->", "mean", "(", ")", "->", "asArray", "(", ")", ";", "$", "weight", "=", "1.", "/", "(", "$", "size", "?", ":", "EPSILON", ")", ";", "foreach", "(", "$", "centroid", "as", "$", "i", "=>", "&", "$", "mean", ")", "{", "$", "mean", "=", "(", "1.", "-", "$", "weight", ")", "*", "$", "mean", "+", "$", "weight", "*", "$", "step", "[", "$", "i", "]", ";", "}", "$", "this", "->", "centroids", "[", "$", "cluster", "]", "=", "$", "centroid", ";", "}", "}", "$", "inertia", "=", "$", "this", "->", "inertia", "(", "$", "samples", ")", ";", "$", "this", "->", "steps", "[", "]", "=", "$", "inertia", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "\"Epoch $epoch complete, inertia=$inertia\"", ")", ";", "}", "if", "(", "is_nan", "(", "$", "inertia", ")", ")", "{", "break", "1", ";", "}", "if", "(", "abs", "(", "$", "previous", "-", "$", "inertia", ")", "<", "$", "this", "->", "minChange", ")", "{", "break", "1", ";", "}", "$", "previous", "=", "$", "inertia", ";", "}", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Training complete'", ")", ";", "}", "}" ]

[ "Perform", "a", "partial", "train", "on", "the", "learner", "." ]

[ "public", "function", "predict", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "if", "(", "!", "$", "this", "->", "centroids", ")", "{", "throw", "new", "RuntimeException", "(", "'Estimator has not been trained.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "return", "array_map", "(", "[", "self", "::", "class", ",", "'assign'", "]", ",", "$", "dataset", "->", "samples", "(", ")", ")", ";", "}" ]

[ "Cluster", "the", "dataset", "by", "assigning", "a", "label", "to", "each", "sample", "." ]

[ "protected", "function", "inertia", "(", "array", "$", "samples", ")", ":", "float", "{", "$", "inertia", "=", "0.", ";", "foreach", "(", "$", "samples", "as", "$", "sample", ")", "{", "foreach", "(", "$", "this", "->", "centroids", "as", "$", "centroid", ")", "{", "$", "inertia", "+=", "$", "this", "->", "kernel", "->", "compute", "(", "$", "sample", ",", "$", "centroid", ")", ";", "}", "}", "return", "$", "inertia", ";", "}" ]

[ "Calculate", "the", "sum", "of", "distances", "between", "all", "samples", "and", "their", "closest", "centroid", "." ]

[ "public", "function", "log", "(", "$", "level", ",", "$", "message", ",", "array", "$", "context", "=", "[", "]", ")", ":", "void", "{", "$", "prefix", "=", "''", ";", "if", "(", "$", "this", "->", "timestamps", ")", "{", "$", "prefix", ".=", "'['", ".", "date", "(", "self", "::", "TIMESTAMP_FORMAT", ")", ".", "'] '", ";", "}", "$", "prefix", ".=", "$", "this", "->", "channel", ".", "'.'", ".", "strtoupper", "(", "(", "string", ")", "$", "level", ")", ".", "': '", ";", "echo", "$", "prefix", ".", "$", "message", ".", "PHP_EOL", ";", "}" ]

[ "Logs", "with", "an", "arbitrary", "level", "." ]

[ "public", "function", "compute", "(", "Tensor", "$", "expected", ",", "Tensor", "$", "output", ")", ":", "float", "{", "return", "$", "output", "->", "subtract", "(", "$", "expected", ")", "->", "square", "(", ")", "->", "sum", "(", ")", "->", "mean", "(", ")", ";", "}" ]

[ "Compute", "the", "loss", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "dataset", "=", "Labeled", "::", "quick", "(", "$", "samples", ",", "array_keys", "(", "$", "samples", ")", ")", ";", "$", "this", "->", "tree", "->", "grow", "(", "$", "dataset", ")", ";", "$", "this", "->", "kdistances", "=", "$", "this", "->", "lrds", "=", "[", "]", ";", "$", "indices", "=", "$", "distances", "=", "[", "]", ";", "foreach", "(", "$", "dataset", "as", "$", "sample", ")", "{", "[", "$", "iHat", ",", "$", "dHat", "]", "=", "$", "this", "->", "tree", "->", "nearest", "(", "$", "sample", ",", "$", "this", "->", "k", ")", ";", "$", "distances", "[", "]", "=", "$", "dHat", ";", "$", "indices", "[", "]", "=", "$", "iHat", ";", "$", "this", "->", "kdistances", "[", "]", "=", "end", "(", "$", "dHat", ")", ";", "}", "foreach", "(", "$", "distances", "as", "$", "i", "=>", "$", "row", ")", "{", "$", "this", "->", "lrds", "[", "]", "=", "$", "this", "->", "localReachabilityDensity", "(", "$", "indices", "[", "$", "i", "]", ",", "$", "row", ")", ";", "}", "$", "lofs", "=", "[", "]", ";", "foreach", "(", "$", "dataset", "as", "$", "sample", ")", "{", "$", "lofs", "[", "]", "=", "$", "this", "->", "localOutlierFactor", "(", "$", "sample", ")", ";", "}", "$", "shift", "=", "Stats", "::", "percentile", "(", "$", "lofs", ",", "100.", "*", "$", "this", "->", "contamination", ")", ";", "$", "this", "->", "offset", "=", "self", "::", "THRESHOLD", "+", "$", "shift", ";", "}" ]

[ "Train", "the", "learner", "with", "a", "dataset", "." ]

[ "public", "function", "rank", "(", "Dataset", "$", "dataset", ")", ":", "array", "{", "if", "(", "$", "this", "->", "tree", "->", "bare", "(", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'The learner has not'", ".", "' been trained.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "return", "array_map", "(", "[", "self", "::", "class", ",", "'localOutlierFactor'", "]", ",", "$", "dataset", "->", "samples", "(", ")", ")", ";", "}" ]

[ "Apply", "an", "arbitrary", "unnormalized", "scoring", "function", "over", "the", "dataset", "." ]

[ "protected", "function", "localOutlierFactor", "(", "array", "$", "sample", ")", ":", "float", "{", "if", "(", "empty", "(", "$", "this", "->", "lrds", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'Local reachability distances have'", ".", "' not been computed, must train estimator first.'", ")", ";", "}", "[", "$", "indices", ",", "$", "distances", "]", "=", "$", "this", "->", "tree", "->", "nearest", "(", "$", "sample", ",", "$", "this", "->", "k", ")", ";", "$", "lrd", "=", "$", "this", "->", "localReachabilityDensity", "(", "$", "indices", ",", "$", "distances", ")", ";", "$", "lrds", "=", "[", "]", ";", "foreach", "(", "$", "indices", "as", "$", "index", ")", "{", "$", "lrds", "[", "]", "=", "$", "this", "->", "lrds", "[", "$", "index", "]", ";", "}", "$", "ratios", "=", "[", "]", ";", "foreach", "(", "$", "lrds", "as", "$", "lHat", ")", "{", "$", "ratios", "[", "]", "=", "$", "lHat", "/", "$", "lrd", ";", "}", "return", "Stats", "::", "mean", "(", "$", "ratios", ")", ";", "}" ]

[ "Calculate", "the", "local", "outlier", "factor", "of", "a", "given", "sample", "." ]

[ "protected", "function", "localReachabilityDensity", "(", "array", "$", "indices", ",", "array", "$", "distances", ")", ":", "float", "{", "if", "(", "empty", "(", "$", "this", "->", "kdistances", ")", ")", "{", "throw", "new", "RuntimeException", "(", "'K distances have not been computed,'", ".", "' must train estimator first.'", ")", ";", "}", "$", "kdistances", "=", "[", "]", ";", "foreach", "(", "$", "indices", "as", "$", "index", ")", "{", "$", "kdistances", "[", "]", "=", "$", "this", "->", "kdistances", "[", "$", "index", "]", ";", "}", "$", "rds", "=", "array_map", "(", "'max'", ",", "$", "distances", ",", "$", "kdistances", ")", ";", "$", "mean", "=", "Stats", "::", "mean", "(", "$", "rds", ")", ";", "return", "1.", "/", "(", "$", "mean", "?", ":", "EPSILON", ")", ";", "}" ]

[ "Calculate", "the", "local", "reachability", "density", "of", "a", "sample", "given", "its", "distances", "to", "its", "k", "nearest", "neighbors", "." ]

[ "public", "function", "options", "(", ")", ":", "array", "{", "return", "[", "svm", "::", "OPT_KERNEL_TYPE", "=>", "svm", "::", "KERNEL_POLY", ",", "svm", "::", "OPT_DEGREE", "=>", "$", "this", "->", "degree", ",", "svm", "::", "OPT_GAMMA", "=>", "$", "this", "->", "gamma", ",", "svm", "::", "OPT_COEF_ZERO", "=>", "$", "this", "->", "coef0", ",", "]", ";", "}" ]

[ "Return", "the", "options", "for", "the", "libsvm", "runtime", "." ]

[ "public", "static", "function", "terminate", "(", "Labeled", "$", "dataset", ")", ":", "self", "{", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "labels", "=", "$", "dataset", "->", "labels", "(", ")", ";", "$", "min", "=", "$", "max", "=", "[", "]", ";", "foreach", "(", "$", "dataset", "->", "columns", "(", ")", "as", "$", "values", ")", "{", "$", "min", "[", "]", "=", "min", "(", "$", "values", ")", ";", "$", "max", "[", "]", "=", "max", "(", "$", "values", ")", ";", "}", "return", "new", "self", "(", "$", "samples", ",", "$", "labels", ",", "$", "min", ",", "$", "max", ")", ";", "}" ]

[ "Terminate", "a", "branch", "with", "a", "dataset", "." ]

[ "public", "static", "function", "load", "(", "Persister", "$", "persister", ")", ":", "self", "{", "$", "learner", "=", "$", "persister", "->", "load", "(", ")", ";", "if", "(", "!", "$", "learner", "instanceof", "Learner", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Peristable must be a'", ".", "' learner.'", ")", ";", "}", "return", "new", "self", "(", "$", "learner", ",", "$", "persister", ")", ";", "}" ]

[ "Factory", "method", "to", "restore", "the", "model", "from", "persistence", "." ]

[ "public", "function", "save", "(", ")", ":", "void", "{", "if", "(", "$", "this", "->", "base", "instanceof", "Persistable", ")", "{", "$", "this", "->", "persister", "->", "save", "(", "$", "this", "->", "base", ")", ";", "if", "(", "$", "this", "->", "logger", ")", "{", "$", "this", "->", "logger", "->", "info", "(", "'Model saved successully'", ")", ";", "}", "}", "}" ]

[ "Save", "the", "model", "using", "the", "user", "-", "provided", "persister", "." ]

[ "public", "function", "generate", "(", "array", "$", "predictions", ",", "array", "$", "labels", ")", ":", "array", "{", "if", "(", "count", "(", "$", "predictions", ")", "!==", "count", "(", "$", "labels", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'The number of labels'", ".", "' must equal the number of predictions.'", ")", ";", "}", "$", "classes", "=", "array_unique", "(", "array_merge", "(", "$", "predictions", ",", "$", "labels", ")", ")", ";", "$", "matrix", "=", "array_fill_keys", "(", "$", "classes", ",", "array_fill_keys", "(", "$", "classes", ",", "0", ")", ")", ";", "foreach", "(", "$", "predictions", "as", "$", "i", "=>", "$", "prediction", ")", "{", "$", "matrix", "[", "$", "prediction", "]", "[", "$", "labels", "[", "$", "i", "]", "]", "++", ";", "}", "return", "$", "matrix", ";", "}" ]

[ "Generate", "the", "report", "." ]

[ "public", "function", "initialize", "(", "int", "$", "fanIn", ")", ":", "int", "{", "$", "fanOut", "=", "$", "this", "->", "neurons", ";", "$", "w", "=", "$", "this", "->", "weightInitializer", "->", "initialize", "(", "$", "fanIn", ",", "$", "fanOut", ")", ";", "$", "b", "=", "$", "this", "->", "biasInitializer", "->", "initialize", "(", "1", ",", "$", "fanOut", ")", "->", "columnAsVector", "(", "0", ")", ";", "$", "this", "->", "weights", "=", "new", "MatrixParam", "(", "$", "w", ")", ";", "$", "this", "->", "biases", "=", "new", "VectorParam", "(", "$", "b", ")", ";", "return", "$", "fanOut", ";", "}" ]

[ "Initialize", "the", "layer", "with", "the", "fan", "in", "from", "the", "previous", "layer", "and", "return", "the", "fan", "out", "for", "this", "layer", "." ]

[ "public", "function", "back", "(", "Deferred", "$", "prevGradient", ",", "Optimizer", "$", "optimizer", ")", ":", "Deferred", "{", "if", "(", "!", "$", "this", "->", "weights", "or", "!", "$", "this", "->", "biases", ")", "{", "throw", "new", "RuntimeException", "(", "'Layer is not initialized'", ")", ";", "}", "if", "(", "!", "$", "this", "->", "input", ")", "{", "throw", "new", "RuntimeException", "(", "'Must perform forward pass before'", ".", "' backpropagating.'", ")", ";", "}", "$", "dOut", "=", "$", "prevGradient", "->", "result", "(", ")", ";", "$", "dW", "=", "$", "dOut", "->", "matmul", "(", "$", "this", "->", "input", "->", "transpose", "(", ")", ")", ";", "$", "dB", "=", "$", "dOut", "->", "sum", "(", ")", ";", "$", "w", "=", "$", "this", "->", "weights", "->", "w", "(", ")", ";", "$", "optimizer", "->", "step", "(", "$", "this", "->", "weights", ",", "$", "dW", ")", ";", "$", "optimizer", "->", "step", "(", "$", "this", "->", "biases", ",", "$", "dB", ")", ";", "unset", "(", "$", "this", "->", "input", ")", ";", "return", "new", "Deferred", "(", "function", "(", ")", "use", "(", "$", "w", ",", "$", "dOut", ")", "{", "return", "$", "w", "->", "transpose", "(", ")", "->", "matmul", "(", "$", "dOut", ")", ";", "}", ")", ";", "}" ]

[ "Calculate", "the", "gradient", "and", "update", "the", "parameters", "of", "the", "layer", "." ]

[ "public", "function", "save", "(", "Persistable", "$", "persistable", ")", ":", "void", "{", "$", "data", "=", "$", "this", "->", "serializer", "->", "serialize", "(", "$", "persistable", ")", ";", "$", "success", "=", "$", "this", "->", "connector", "->", "set", "(", "$", "this", "->", "key", ",", "$", "data", ")", ";", "if", "(", "!", "$", "success", ")", "{", "throw", "new", "RuntimeException", "(", "'Failed to save persistable'", ".", "' to the database.'", ")", ";", "}", "}" ]

[ "Save", "the", "persitable", "object", "." ]

[ "public", "function", "load", "(", ")", ":", "Persistable", "{", "$", "data", "=", "$", "this", "->", "connector", "->", "get", "(", "$", "this", "->", "key", ")", "?", ":", "''", ";", "$", "persistable", "=", "$", "this", "->", "serializer", "->", "unserialize", "(", "$", "data", ")", ";", "if", "(", "!", "$", "persistable", "instanceof", "Persistable", ")", "{", "throw", "new", "RuntimeException", "(", "'Persistable could not be'", ".", "' reconstituted.'", ")", ";", "}", "return", "$", "persistable", ";", "}" ]

[ "Load", "the", "last", "model", "that", "was", "saved", "." ]

[ "public", "function", "fit", "(", "array", "$", "values", ")", ":", "void", "{", "if", "(", "empty", "(", "$", "values", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'Strategy must be fit with'", ".", "' at least 1 value.'", ")", ";", "}", "$", "this", "->", "min", "=", "min", "(", "$", "values", ")", ";", "$", "this", "->", "max", "=", "max", "(", "$", "values", ")", ";", "}" ]

[ "Fit", "the", "guessing", "strategy", "to", "a", "set", "of", "values", "." ]

[ "public", "function", "guess", "(", ")", ":", "float", "{", "if", "(", "$", "this", "->", "min", "===", "null", "or", "$", "this", "->", "max", "===", "null", ")", "{", "throw", "new", "RuntimeException", "(", "'Strategy has not been fitted.'", ")", ";", "}", "$", "min", "=", "(", "int", ")", "round", "(", "$", "this", "->", "min", "*", "$", "this", "->", "precision", ")", ";", "$", "max", "=", "(", "int", ")", "round", "(", "$", "this", "->", "max", "*", "$", "this", "->", "precision", ")", ";", "return", "rand", "(", "$", "min", ",", "$", "max", ")", "/", "$", "this", "->", "precision", ";", "}" ]

[ "Make", "a", "continuous", "guess", "." ]

[ "public", "static", "function", "mcc", "(", "int", "$", "tp", ",", "int", "$", "tn", ",", "int", "$", "fp", ",", "int", "$", "fn", ")", ":", "float", "{", "return", "(", "$", "tp", "*", "$", "tn", "-", "$", "fp", "*", "$", "fn", ")", "/", "(", "sqrt", "(", "(", "$", "tp", "+", "$", "fp", ")", "*", "(", "$", "tp", "+", "$", "fn", ")", "*", "(", "$", "tn", "+", "$", "fp", ")", "*", "(", "$", "tn", "+", "$", "fn", ")", ")", "?", ":", "EPSILON", ")", ";", "}" ]

[ "Compute", "the", "class", "mcc", "score", "." ]

[ "public", "function", "score", "(", "array", "$", "predictions", ",", "array", "$", "labels", ")", ":", "float", "{", "if", "(", "empty", "(", "$", "predictions", ")", ")", "{", "return", "0.", ";", "}", "if", "(", "count", "(", "$", "predictions", ")", "!==", "count", "(", "$", "labels", ")", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'The number of labels'", ".", "' must equal the number of predictions.'", ")", ";", "}", "$", "classes", "=", "array_unique", "(", "array_merge", "(", "$", "predictions", ",", "$", "labels", ")", ")", ";", "$", "truePos", "=", "$", "trueNeg", "=", "$", "falsePos", "=", "$", "falseNeg", "=", "array_fill_keys", "(", "$", "classes", ",", "0", ")", ";", "foreach", "(", "$", "predictions", "as", "$", "i", "=>", "$", "prediction", ")", "{", "$", "label", "=", "$", "labels", "[", "$", "i", "]", ";", "if", "(", "$", "prediction", "===", "$", "label", ")", "{", "$", "truePos", "[", "$", "prediction", "]", "++", ";", "foreach", "(", "$", "classes", "as", "$", "class", ")", "{", "if", "(", "$", "class", "!==", "$", "prediction", ")", "{", "$", "trueNeg", "[", "$", "class", "]", "++", ";", "}", "}", "}", "else", "{", "$", "falsePos", "[", "$", "prediction", "]", "++", ";", "$", "falseNeg", "[", "$", "label", "]", "++", ";", "}", "}", "return", "Stats", "::", "mean", "(", "array_map", "(", "[", "$", "this", ",", "'mcc'", "]", ",", "$", "truePos", ",", "$", "trueNeg", ",", "$", "falsePos", ",", "$", "falseNeg", ")", ")", ";", "}" ]

[ "Score", "a", "set", "of", "predictions", "." ]

[ "public", "function", "train", "(", "Dataset", "$", "dataset", ")", ":", "void", "{", "if", "(", "!", "$", "dataset", "instanceof", "Labeled", ")", "{", "throw", "new", "InvalidArgumentException", "(", "'This estimator requires a'", ".", "' labeled training set.'", ")", ";", "}", "DatasetIsCompatibleWithEstimator", "::", "check", "(", "$", "dataset", ",", "$", "this", ")", ";", "$", "samples", "=", "$", "dataset", "->", "samples", "(", ")", ";", "$", "labels", "=", "$", "dataset", "->", "labels", "(", ")", ";", "$", "biases", "=", "Matrix", "::", "ones", "(", "$", "dataset", "->", "numRows", "(", ")", ",", "1", ")", ";", "$", "x", "=", "Matrix", "::", "build", "(", "$", "samples", ")", "->", "augmentLeft", "(", "$", "biases", ")", ";", "$", "y", "=", "Vector", "::", "build", "(", "$", "labels", ")", ";", "$", "alphas", "=", "array_fill", "(", "0", ",", "$", "x", "->", "n", "(", ")", "-", "1", ",", "$", "this", "->", "alpha", ")", ";", "$", "penalty", "=", "Matrix", "::", "diagonal", "(", "array_merge", "(", "[", "0.", "]", ",", "$", "alphas", ")", ")", ";", "$", "xT", "=", "$", "x", "->", "transpose", "(", ")", ";", "$", "coefficients", "=", "$", "xT", "->", "matmul", "(", "$", "x", ")", "->", "add", "(", "$", "penalty", ")", "->", "inverse", "(", ")", "->", "dot", "(", "$", "xT", "->", "dot", "(", "$", "y", ")", ")", "->", "asArray", "(", ")", ";", "$", "this", "->", "bias", "=", "(", "float", ")", "array_shift", "(", "$", "coefficients", ")", ";", "$", "this", "->", "weights", "=", "Vector", "::", "quick", "(", "$", "coefficients", ")", ";", "}" ]

[ "Calculate", "the", "coefficients", "of", "the", "training", "data", ".", "i", ".", "e", ".", "compute", "the", "line", "that", "best", "fits", "the", "training", "data", "." ]